Истражувањето за вештачка интелигенција (ВИ) сега напредува брзо. Неодамнешни знаменитости како што се самоуправувачки автомобили, компјутер кој победува на Jeopardy! и дигиталните лични асистенти Siri, Google Now и Cortana се само симптоми на ИТ трка во вооружување поттикната од невидени инвестиции и градење на сè позрела теоретска основа. Ваквите достигнувања веројатно ќе избледат наспроти она што ќе го донесат следните децении.
Потенцијалните придобивки се огромни; сè што цивилизацијата има да понуди е производ на човечката интелигенција; не можеме да предвидиме што би можеле да постигнеме кога оваа интелигенција се зголемува со алатките што вештачката интелигенција може да ги обезбеди, но искоренувањето на војната, болестите и сиромаштијата би било високо на сечија листа. Успехот во создавањето вештачка интелигенција би бил најголемиот настан во историјата на човештвото.
За жал, тоа може да биде и последно, освен ако не научиме како да ги избегнеме ризиците. Во блиска иднина, светските војски размислуваат за системи за автономно оружје што можат да избираат и елиминираат цели; ОН и Хјуман рајтс воч се залагаа за договор со кој се забранува такво оружје. На среден рок, како што нагласија Ерик Бринјолфсон и Ендрју Мекафи во Втората ера на машините , вештачката интелигенција може да ја трансформира нашата економија и да донесе големо богатство и голема дислокација.
Гледајќи подалеку напред, не постојат фундаментални ограничувања за тоа што може да се постигне: не постои физички закон кој ги спречува честичките да бидат организирани на начини кои вршат уште понапредни пресметки од распоредот на честичките во човечкиот мозок. Можна е експлозивна транзиција, иако може да се одвива поинаку од филмот: како што сфатил Ирвинг Гуд во 1965 година, машините со натчовечка интелигенција би можеле постојано да го подобрат својот дизајн уште повеќе, предизвикувајќи го она што Вернор Винџ го нарече „сингуларност“ и филмскиот лик на Џони Деп. нарекува „трансценденција“.
Може да се замисли како таква технологија ги надмудри финансиските пазари, измислува човечки истражувачи, манипулира со човечки лидери и развива оружје што не можеме ни да го разбереме. Додека краткорочното влијание на вештачката интелигенција зависи од тоа кој ја контролира, долгорочното влијание зависи од тоа дали воопшто може да се контролира.
Значи, соочени со можни иднини со непроценливи придобивки и ризици, експертите сигурно прават се што е можно за да обезбедат најдобар исход, нели? Погрешно. Ако некоја супериорна вонземска цивилизација ни испрати порака велејќи: „Ќе пристигнеме за неколку децении“, дали само ќе одговориме: „Во ред, јавете ни се кога ќе стигнете овде – ќе ги оставиме светлата вклучени“? Веројатно не - но ова е повеќе или помалку она што се случува со вештачката интелигенција. Иако се соочуваме со потенцијално најдоброто или најлошото нешто што може да му се случи на човештвото во историјата, малку сериозни истражувања се посветени на овие прашања надвор од непрофитните институти како што се Кембриџ Центарот за проучување на егзистенцијалниот ризик, Институтот за иднината на човештвото , машината . Институт за истражување на разузнавањето ,. Сите ние треба да се запрашаме што можеме да направиме сега за да ги подобриме шансите да ги искористиме придобивките и да ги избегнеме ризиците.
Стивен Хокинг е директор за истражување на Катедрата за применета математика и теоретска физика на Кембриџ и лауреат на наградата за фундаментална физика во 2012 година за неговата работа на квантната гравитација. Стјуарт Расел е професор по компјутерски науки на Универзитетот во Калифорнија, Беркли и коавтор на „Вештачка интелигенција: модерен пристап“. Макс Тегмарк е професор по физика на Технолошкиот институт во Масачусетс (МИТ) и автор на „Нашиот математички универзум“. Френк Вилчек е професор по физика на МИТ и добитник на Нобеловата награда во 2004 година за неговата работа на силната нуклеарна сила.