افسانه های هوش مصنوعی
اولین اسطوره مربوط به جدول زمانی است: چه مدت طول می کشد تا ماشین ها تا حد زیادی از سطح هوش انسانی پیشی بگیرند؟ یک تصور غلط رایج این است که ما جواب را با اطمینان زیادی می دانیم.یک افسانه معروف این است که ما می دانیم در این قرن به هوش مصنوعی فوق بشری دست خواهیم یافت. در واقع، تاریخ پر از هیاهوهای بیش از حدِ فناوری است. آن نیروگاه های همجوشی هسته ای و اتومبیل های پرنده کجا هستند که به ما نوید داده شده بود که تاکنون داشته باشیم؟ آیا ما ماشین های هوشمند را کنترل خواهیم کرد یا آنها ما را کنترل خواهند کرد؟ هوش مصنوعی نیز در گذشته حتی توسط چندین تن از بنیانگذاران این رشته مکرراًً بیش از حد بزرگنمایی شده بود. به عنوان مثال، جان مک کارتی (که اصطلاح "هوش مصنوعی" را ابداع کرده است)، ماروین مینسکی، ناتانیل روچستر و کلود شانون پیش بینی های بیش از حد خوشبینانه ای را به عمل آوردند و مثلاً درباره آنچه می توان طی دو ماه با رایانه های عصر حجری انجام داد نوشتند: "ما پیشنهاد می کنیم که به مدت 2 ماه، 10 مرد درباره هوش مصنوعی در تابستان 1956 در دانشکده دارتموث به کار و آزمایش بپردازند [...] با این کار برای یافتن نحوه استفاده از ماشین در زبان، شکل گیری انتزاع و مفاهیم، حل انواع مسائلی که در حال حاضر حل آنها به انسان اختصاص داده شده است، و بهبود بخشیدن خودشان، تلاش خواهد شد. ما فکر می کنیم اگر یک گروه از دانشمندانِ با دقت انتخاب شده یک تابستان روی آن کار کنند، می توان پیشرفت قابل توجهی در یک یا چند مورد از این مشکلات داشت. "
از طرف دیگر، یک ضد افسانه معروف این است که می دانیم در این قرن به هوش مصنوعی فوق بشری دست نخواهیم یافت. محققان طیف گسترده ای از تخمین ها را برای میزان فاصله ما از هوش مصنوعی فوق بشری به دست آورده اند، اما مطمئناً، با توجه به سابقه ناخوشایند چنین پیش بینی های فنی-شکاکانه ای، نمی توانیم با اطمینان زیادی بگوییم که این احتمال در قرن حاضر صفر است. به عنوان مثال، ارنست رادرفورد، که مسلماً بزرگترین فیزیکدان هسته ای زمان خود بود، در سال 1933 - کمتر از 24 ساعت قبل از اختراع واکنش زنجیره ای هسته ای توسط زیلارد - گفت که انرژی هسته ای "حرفی پوچ" است. و ستاره شناس رویال ریچارد وولی در سال 1956 سفر بین سیاره ای را "مهملی کامل" نامید. شدیدترین شکل این افسانه این است که هوش مصنوعی فوق بشری هرگز حاصل نخواهد شد زیرا از نظر فیزیکی غیرممکن است. با این حال، فیزیکدانان می دانند که مغز از کوارک ها و الکترونهایی تشکیل شده است که به صورت یک کامپیوتر قدرتمند عمل می کنند و هیچ قانون فیزیکی مانع ساختن حباب های کوارک باهوش تر نمی شود.
چندین تحقیق انجام شده است که در طی آنها از محققان هوش مصنوعی پرسیده می شود که فکر می کنند چند سال دیگر با حداقل 50٪ احتمال، هوشی مصنوعی در سطح انسانی خواهیم داشت. همه این نظرسنجی ها نتیجه یکسانی دارند: کارشناسان برجسته جهان در این زمینه اختلاف نظر دارند، و بنابراین ما به سادگی باید بگوییم «نمی دانیم». به عنوان مثال، در طی چنین نظرسنجی ای از محققان هوش مصنوعی در کنفرانس هوش مصنوعی در پورتوریکو در سال 2015، میانگین (متوسط) پاسخ تا سال 2045 بود، اما برخی از محققان زمان صدها سال یا بیشتر را حدس زدند.
همچنین یک افسانه مرتبط وجود دارد که افرادی که نگران هوش مصنوعی هستند فکر می کنند تنها چند سال دیگر با آن فاصله وجود دارد. در حقیقت ، بیشتر افرادی که سابقه نگرانی در مورد هوش مصنوعی فوق بشری دارند، حدس می زنند که هنوز حداقل ده ها سال با آن فاصله وجود دارد. اما آنها استدلال می کنند تا زمانی که ما 100٪ مطمئن نباشیم این اتفاق در این قرن رخ نمی دهد، هوشمندانه است که از هم اکنون تحقیقات ایمنی را شروع کنیم تا خود را برای این امر آماده نماییم. بسیاری از مشکلات ایمنی مرتبط با هوش مصنوعیِ در سطح انسان، بسیار سخت است به طوری که رفع آنها ممکن است دهه ها به طول انجامد. بنابراین عاقلانه است که اکنون تحقیق در مورد آنها شروع شود به جای این که شب قبل از خطر، برخی از برنامه نویسان که نوشابه انرژی زا می نوشند تصمیم بگیرند تحقیقی را شروع کنند.
اسطوره های جنجالی
تصور غلط رایج دیگر این است که تنها افرادی که در مورد هوش مصنوعی نگرانی دارند و از تحقیقات ایمنی هوش مصنوعی حمایت می کنند، افراد پیشرفت گریز هستند که اطلاعات زیادی در مورد هوش مصنوعی ندارند. تصور اشتباه در مورد روبات مربوط به این افسانه است که ماشین ها نمی توانند انسان ها را کنترل کنند. وقتی استوارت راسل، نویسنده کتاب درسی استاندارد هوش مصنوعی، هنگام سخنرانی خود در پورتوریکو به این موضوع اشاره کرد، حاضران با صدای بلند خندیدند. یک تصور غلط مرتبط این است که حمایت از تحقیقات ایمنی هوش مصنوعی بسیار بحث برانگیز است. در حقیقت، برای حمایت از سرمایه گذاری متوسط در تحقیقات ایمنی هوش مصنوعی، نیازی نیست مردم اطمینان پیدا کنند که خطرات زیاد وجود دارد، و صرفاً کافی است دریابند که خطر غیر قابل اغماض است – همان طور که سرمایه گذاری متوسط در بیمه خانه با احتمال غیر قابل اغماض بودن خطر آتش سوزی در خانه توجیه می شود.ممکن است این طور باشد که رسانه ها بحث ایمنی هوش مصنوعی را جنجالی تر از آنچه واقعاً هست، نشان داده باشند. از این گذشته، ترس باعث فروش بیشتر می شود، و مقالاتی که از نقل قول های خارج از متن برای اعلام هلاکت قریب الوقوع استفاده می کنند، می توانند نسبت به کلیک های دقیق و متعادل، کلیک های بیشتری ایجاد کنند. در نتیجه، دو نفری که از مواضع یکدیگر فقط از نقل قول های رسانه ای اطلاع دارند، احتمالاً بیشتر از آنچه واقعاً هست تصور می کنند که اختلاف نظر دارند. به عنوان مثال، یک تکنسین شکاک که در مورد موقعیت بیل گیتس فقط در یک روزنامه نیم قطع و مصور بریتانیایی اطلاعاتی می خواند، ممکن است به اشتباه فکر کند که گیتس معتقد است فوق هوشمندی قریب الوقوع است. به همین ترتیب، یک نفر در جنبش هوش مصنوعی سودمند که چیزی در مورد موقعیت اندرو ان جی جز نقل قول او در مورد جمعیت بیش از حد در مریخ نمی داند، ممکن است به اشتباه فکر کند که او به ایمنی هوش مصنوعی اهمیت نمی دهد، در حالی که در واقع، او به این مسئله اهمیت می دهد. معما به سادگی این است که چون تخمین های جدول زمانی ان جی طولانی تر است، او به طور طبیعی تمایل دارد که چالش های کوتاه مدت هوش مصنوعی را نسبت به چالش های بلند مدت اولویت بندی کند.
افسانه ها در مورد خطرات هوش مصنوعی فوق بشری
بسیاری از محققان هوش مصنوعی چشمانشان گرد می شود وقتی این عنوان سرصفحه را می بینند: "استیون هاوکینگ هشدار می دهد که ظهور روبات ها ممکن است برای بشر فاجعه بار باشد" و همین طور بسیاری از آنها از فرط فراوانی، شمارش چنین عناوین مقاله های مشابهی را که دیده اند از دست داده اند. به طور معمول، این مقالات با یک روبات بد ظاهر که اسلحه حمل می کند همراه هستند که پیشنهاد می کند که ما باید نگران قیام روبات ها و کشتن شدنمان باشیم زیرا آنها آگاه و یا شیطانی شده اند. در توجهی روشن تر، چنین مقالاتی در واقع گیراتر هستند، زیرا به روشنی سناریویی را که محققان هوش مصنوعی نگران آن نیستند، خلاصه می کنند. این سناریو سه فکر غلط جداگانه را با هم ترکیب می کند: نگرانی در مورد آگاهی، شر و روبات ها.اگر در جاده رانندگی کنید، یک تجربه شخصی از رنگ ها، صداها و غیره دارید. اما آیا اتومبیل خودران تجربه شخصی دارد؟ آیا اتومبیل خودران بودن اصلاً احساسی دارد؟ اگر چه این رمز و راز آگاهی به خودی خود جالب است، اما با خطر هوش مصنوعی ارتباطی ندارد. اگر با اتومبیل بدون راننده برخورد کنید، این که از نظر ذهنی هوشیاری داشته باشد برای شما فرقی نمی کند. به همین ترتیب، آن چه که بر ما انسان ها تأثیر خواهد گذاشت، همان کاری است که هوش مصنوعی فوق العاده هوشمند انجام می دهد، نه احساس ذهنی آن.
ترس از این که ماشین ها به شر تبدیل شوند راه فرار دیگری از موضوع است. نگرانی واقعی در موضوع بدخواهی نیست، بلکه در موضوع شایستگی است. هوش مصنوعی فوق العاده هوشمند طبق تعریف، در رسیدن به اهداف خود، هرچه که باشد بسیار خوب است، بنابراین باید اطمینان حاصل کنیم که اهداف آن با اهداف ما مطابقت داشته باشد. انسان ها به طور کلی از مورچه متنفر نیستند، اما ما از آنها هوشمندتریم - بنابراین اگر بخواهیم یک سد برق آبی بسازیم و یک تپه مورچه در محل وجود داشته باشد، این برای مورچه ها بسیار بد می شود اما گریزی از آن نیست. جنبش هوش مصنوعی سودمند می خواهد از قرار دادن بشریت در موقعیت آن مورچه ها جلوگیری کند.
تصور غلط شعور مربوط به این افسانه است که ماشین ها نمی توانند هدفی داشته باشند. بدیهی است که ماشین آلات می توانند به معنای محدود نمایش رفتار هدف گرا، هدف هایی داشته باشند: رفتار یک موشک گرماجو، به اقتصادی ترین وجه، به صورت مقصودی برای زدن هدف توضیح داده می شود. اگر توسط ماشینی تهدید می شوید که اهداف آن با اهداف شما مطابقت ندارد، پس دقیقاً اهداف آن در این مفهوم باریک است که شما را آزار دهد، نه این که دستگاه آگاه باشد و یا حس هدف را تجربه کند. اگر آن موشک گرماجو شما را تعقیب کند، احتمالاً فریاد نمی زنید: "من نگران نیستم، زیرا ماشین ها نمی توانند هدفی داشته باشند! "
من با رادنی بروکس و دیگر پیشگامان روباتیک همدردی می کنم که احساس می کنند به گونه ای ناعادلانه توسط تابلوهای ترسناک و وحشتناک تبدیل به اهریمن شده اند، زیرا بعضی از روزنامه نگاران به نظر می رسد که با وسواس روی روبات ها متمرکز و مصر می شوند و بسیاری از مقالات خود را با هیولاهای فلزی بد ظاهر با چشمان براق تزئین می کنند. در واقع، نگرانی اصلی جنبش هوش مصنوعیِ سودمند مربوط به روبات ها نیست بلکه خود هوش است: به ویژه هوشی که اهداف آن در راستای اهداف ما نیست. بسیاری از مشکلات ایمنی مرتبط با هوش مصنوعیِ در سطح انسان، بسیار سخت است به طوری که رفع آنها ممکن است دهه ها به طول انجامد. برای ایجاد درد سر برای ما، چنین هوش فوق بشری ناهماهنگی به هیچ بدنه‌ی روباتی نیاز ندارد و صرفاً یک اتصال به اینترنت کافی است - این امر ممکن است باعث شود بازارهای مالی بزرگتر شود، محققان انسانی بزرگ پدیدار شوند، رهبران انسانی بیش از حد ماهری اداره امور را در دست گیرند، و سلاح هایی تولید کنند که ما حتی نمی توانیم فکرش را هم بکنیم. حتی اگر ساخت روبات ها از نظر فیزیکی غیرممکن باشد، یک هوش مصنوعی فوق العاده باهوش و بسیار توانمند می تواند به راحتی بسیاری از انسان ها را پرداخت یا دستکاری کند تا ناخواسته پیشنهاد خود را انجام دهند.
تصور اشتباه در مورد روبات مربوط به این افسانه است که ماشین ها نمی توانند انسان ها را کنترل کنند. هوش کنترل را امکان پذیر می کند: ما انسان ها ببرها را به دلیل قدرتمندی خود کنترل نمی کنیم بلکه به این دلیل که باهوش تریم این کار را قادریم انجام دهیم. این بدان معنی است که اگر موقعیت خود را به عنوان هوشمندترین موجود در سیاره خود واگذار کنیم، ممکن است که کنترل خود را نیز واگذار کنیم.
جنجال های جالب
عدم اتلاف وقت در تصورات غلط فوق الذکر باعث می شود تا در جنجال های واقعی و جالبی تمرکز کنیم که حتی کارشناسان با آنها موافق نیستند. چه نوع آینده ای می خواهید؟ آیا باید سلاح های خودمختار کشنده تولید کنیم؟ دوست دارید با اتوماسیون شغلی چه اتفاقی بیفتد؟ به بچه های امروز چه توصیه شغلی می دهید؟ آیا شغل های جدید را جایگزین مشاغل قدیمی می کنید یا جامعه ای بیکار که همه از زندگی توأم با اوقات فراغت و ثروت تولید شده از ماشین بهره مند هستند خواهید داشت؟ دورتر، در پایین جاده، دوست دارید زندگی فوق العاده هوشمندانه ای ایجاد کنیم و آن را در کیهان خود گسترش دهیم؟ آیا ما ماشین های هوشمند را کنترل خواهیم کرد یا آنها ما را کنترل خواهند کرد؟ آیا ماشین های هوشمند جایگزین ما می شوند، با ما همزیستی می کنند یا با ما ادغام می شوند؟ انسان بودن در عصر هوش مصنوعی به چه معناست؟ دوست دارید معنای هوش مصنوعی فوق العاده چه باشد و چگونه می توانیم آینده را به آن شکل بگذرانیم؟منبع: Future of Life
