Невронните мрежи ще унищожат човечеството. Наистина ли?

Някои изследователи в областта на машинното обучение смятат, че невронните мрежи ще стават все по-неуправляеми и вероятно ще излязат извън контрол, заплашвайки човечеството с катастрофа и дори изчезване. От друга страна, техни колеги смятат, че опасността от съвременните интелигентни системи не включва изчезването на човечеството, а някои учени са просто паникьори. И така, кой от тях е прав? И как да го разберем? Един от възможните отговори предлагат авторите на нова научна работа от изследователския институт Forecasting, които са помолили експерти по изкуствен интелект и други екзистенциални рискове, както и специалисти по успешно прогнозиране на световните събития, да оценят опасността, която представлява изкуственият интелект. Нека се спрем по-подробно на техните изводи.

ИИ (изкуственият интелект) е компютърна система, която може да изпълнява задачи, обикновено изискващи човешка интелигентност, като например разпознаване на реч и вземане на решения.

ИИ ще унищожи човечеството

Неведнъж сме споменавали, че системите с изкуствен интелект могат да представляват сериозна заплаха за бъдещето на човечеството. Нещо повече, писателите на научна фантастика просто обожават тази тема, а филми като „Аз, роботът“ и „Терминатор“ отдавна са се превърнали в култови. Между другото, много изтъкнати учени са сериозно загрижени за потенциалните рискове, породени от изкуствения интелект.

Един от тези, които открито и последователно изразяваха опасенията си от заплахата на изкуствения интелект за човечеството, беше професор Стивън Хокинг, който неведнъж е заявявал, че развитието на изкуствения интелект може да бъде „или най-лошото, или най-доброто събитие в човешката история„. Той предупреди, че ако ИИ бъде създаден и надарен със свръхчовешки интелект, той със сигурност може да излезе извън контрол и да унищожи нашата цивилизация.

Професор Ник Бостром, директор на Института за бъдещето на човечеството към Оксфордския университет, също предупреждава за възможните опасности от ИИ. В книгата си „Суперинтелигентност: пътища, опасности, стратегии“ той описва сценарии, при които създаването на свръхинтелигентен ИИ може да доведе до катастрофални последици за човечеството. Бостром подчертава необходимостта от разработване на мерки за безопасност и етични принципи, които да ръководят развитието на ИИ.

Друг известен изследовател, който се застъпва за предпазлив подход към разработването на ИИ, е Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли. Ръсел изразява загриженост, че ИИ може да стане толкова интелигентен, че няма да сме в състояние да предвидим действията му. Той също така смята, че трябва да се разработят безопасни и етични методи за създаване и контрол на ИИ.

Както може да се види, загриженост относно потенциалните заплахи от ИИ изразяват много учени и технологични експерти.

Невронните мрежи са полезен инструмент

Невронните мрежи са ИИ системи, базирани на структурата и функциите на човешкия мозък, които могат да се учат и адаптират, изпълнявайки сложни задачи.

Сред учените и експертите, които смятат, че изкуственият интелект не представлява сериозна заплаха за човечеството, могат да се посочат няколко видни личности. Тези експерти подчертават потенциала на изкуствения интелект за подобряване на живота и решаване на многобройните проблеми, пред които е изправено човечеството.

Един от тях е Родни Брукс, бивш директор на Лабораторията за изкуствен интелект на Масачузетския технологичен институт и съосновател на iRobot. Брукс е известен със своя скептицизъм към апокалиптичните прогнози за бъдещето на ИИ и твърди, че страховете, че ИИ ще унищожи човечеството, се основават на преувеличения и неразбиране на настоящото състояние на технологията. Според него сме много, много далеч от създаването на ИИ, който би могъл да представлява реална заплаха.

Друг известен експерт с положително мнение за развитието на ИИ е Андрю Нг, професор в Станфордския университет и един от основателите на Coursera. Нг вижда ИИ като мощен инструмент за подобряване на живота на хората.

„Настоящите постижения в областта на ИИ, като например разпознаването на изображения и обработката на естествен език, са от голяма полза в медицината, образованието и други области. Страховете от ИИ често са преувеличени и фокусът трябва да бъде насочен към решаването на по-належащи въпроси, като например осигуряването на етично използване на технологиите и защитата на данните“, отбелязва той.

Ян Лекун, ръководител на отдела за изкуствен интелект във Facebook и един от пионерите на дълбокото обучение, също изразява оптимизъм по отношение на ИИ. Лекун вярва, че ИИ може да донесе значителни ползи за обществото, ако бъде правилно проектиран и използван. Той подчертава значението на интердисциплинарния подход и сътрудничеството между учените, инженерите и обществото за създаването на безопасни и полезни ИИ системи. Лекун също така изтъква необходимостта от реалистично възприемане на възможностите и ограниченията на настоящите ИИ технологии.

Друг пример за положителен подход към изкуствения интелект е този на Орен Етциони, главен изпълнителен директор на Института „Алън“ за изкуствен интелект. Етциони твърди, че ИИ не представлява екзистенциална заплаха за човечеството. Той смята, че настоящото развитие на ИИ е насочено към решаването на конкретни проблеми и подобряване на живота на хората. Според него е необходимо да се съсредоточим върху регулирането и етичните аспекти на използването на ИИ, а не върху опасенията за възможното унищожаване на човечеството.

Кой всъщност е прав?

И така, как можем да разберем кой учен е прав и каква заплаха представляват съвременните интелигентни системи за света? Изследователите от Foresight Research Institute се опитаха да намерят отговор на този въпрос, като помолиха експерти в областта на машинното обучение и видни прогнозисти да оценят опасностите, които представлява изкуствения интелект.

Резултатът бе не по-малко противоречив от мненията на учените, представени по-горе – двете групи анкетирани експерти се разминаваха в много отношения. Освен това експертите, участвали в проучването, като цяло бяха много по-притеснени от прогнозистите и залагаха много повече на Катастрофата.

Авторите на проучването, публикувано в официалния уеб сайт на института, искат да разберат защо експертите се разминават толкова силно и организират така нареченото „състезателно сътрудничество“: двете групи тествани експерти са прекарали много часове (средно 31 часа за експертите и 80 часа за прогностиците) в четене на най-новите материали за ИИ и обсъждане на тези въпроси с хора с противоположни възгледи под ръководството на модератор.

Идеята бе да се провери дали предоставянето на повече информация и по-добри аргументи на всяка от групите може да ги накара да променят мнението си. Изследователите бяха любопитни да открият и „ключовите моменти“: въпроси, които помагат да се обяснят убежденията на дадена група, и информация, която може да промени мнението им. Авторите на статията се фокусират върху спора за потенциала на изкуствения интелект да унищожи човечеството или да предизвика икономически срив.

Резултатите, както беше споменато по-горе, са смесени – поддръжниците на идеята, че ИИ е заплаха за човечеството, намалиха вероятността за катастрофа преди 2100 г. от 25% на 20%, докато оптимистите я увеличиха от 0,1% на 0,12%. С други думи, и двете групи останаха на същото ниво, от което са започнали.

Въпреки това докладът е впечатляващ, защото представлява рядък опит да се съберат на едно място интелигентни, добре информирани хора, които са на различно мнение. Въпреки че резултатите от проучването не разрешават разногласията между експертите, то хвърля светлина върху това откъде идват тези разногласия.

Глобалните рискове

Разбира се, има и редица други рискове, свързани с ИИ, с много от които вече се сблъскваме днес. Например, съществуващите системи за ИИ понякога проявяват тревожни пристрастия и са много добри в заблуждаването на потребителите, което означава, че те наистина могат да бъдат използвани за причиняване на вреда. Но тази вреда, макар и несъмнено сериозна, очевидно бледнее в сравнение със „загубата на контрол над ИИ и в резултат на това всички ще умрат“.

Така че защо експертите по машинно обучение изразяват толкова различни мнения? Авторите на научната статия предполагат, че това не се дължи на разликите в достъпа до информация или на липсата на информираност за различните гледни точки.

„Ако случаят беше такъв, враждебното сътрудничество при масовото излагане на нова информация и противоположните възгледи би променило убежденията на хората още по-драстично“,

се казва в статията.

Интересно е, че голяма част от разногласията не се обясняват с различните идеи за това какво ще се случи с изкуствения интелект през следващите няколко години. Когато изследователите разделят оптимистите и песимистите на двойки и сравняват шансовете им за катастрофа, разликата е средно 22,7%. Най-голямо значение обаче имали различията във възгледите за дългосрочното бъдеще.

Оптимистите като цяло вярват, че създаването на супер ИИ ще отнеме повече време, отколкото песимистите смятат. Много от тях се позовават на необходимостта роботиката да достигне нивото на човека, а не само на програмния изкуствен интелект, и твърдят, че това ще бъде много по-трудно да се осъществи.

Едно е да пишеш код и текст на лаптоп, а съвсем друго е да се научиш като машина да обръщаш палачинки, да миеш теракот или да изпълняваш някоя от многото други физически задачи, в чието изпълнение роботите вече превъзхождат хората. В края на краищата езиковите модели са просто езикови модели, а не цифрови хиперхуманоидни Макиавели, които работят за постигането на своята цел.

Разногласия и отговори

Най-интересният източник на несъгласие, идентифициран от изследователите, е така нареченото „фундаментално несъгласие в нагласите“. Това е красив начин да се каже, че те не са съгласни с това кой носи тежестта на доказване в дадена дискусия.

И двете групи са съгласни, че „необикновените твърдения изискват необикновени доказателства“, но не са съгласни кои твърдения са необикновени. Дали е необичайно да се вярва, че изкуственият интелект ще убие цялото човечество, въпреки че човечеството съществува от стотици хиляди години, или е необичайно да се вярва, че човечеството ще продължи да оцелява заедно с изкуствен интелект, който е по-интелигентен от хората?“

– резюмират изследователите.

Това със сигурност не е най-окуражаващото заключение, до което може да се стигне в проучването. Несъгласията, породени от конкретните различия в мненията за това какво ще се случи през следващите няколко години, се разрешават по-лесно, тъй като се основават на това как ще протекат следващите няколко години, а не на дълбоки, трудни за промяна различия в представите на хората за това как функционира светът и кой носи тежестта на доказателствата.

Така или иначе, бъдещето не ни е известно, а изкуственият интелект така или иначе ще продължи да се развива. Накратко, все още няма прости отговори на толкова сложни въпроси.