Не се страхувайте от терминатора, ИИ е опасен с друго

С приближаването на поредната технологична революция – революцията на изкуствения интелект – расте безпокойството, че тя може да бъде последната за нас. Има опасения, че интелектът на машините скоро ще се изравни и дори ще надвиши човешкия интелект. Машините могат да се обърнат срещу нас и да ни заменят като доминираща форма на живот на Земята.

Нашите творения ще станат наши повелители, а може би напълно ще ни унищожат. Тези драматични сценарии, колкото и вълнуващи да изглеждат, показват дълбокото неразбиране същността на изкуствения интелект. Те ни отвличат вниманието от обикновените, но много по-вероятни рискове, свързани с тази нова технология, които ще се появят в съвсем близко бъдеще. Тези сценарии ни отвличат вниманието и от най-впечатляващите предимства на ИИ.

Победата на изкуствения интелект над човека отдавна се разглежда от научната фантастика. Спомнете си култовия филм „2001: Космическа одисея“ (2001: A Space Odyssey), в който разумният компютър HAL 9000, управляващ работата на космическия кораб, убива повечето членове на екипажа поради твърде строго зададените инструкции. Разбира се, не можем да минем без Скайнет във филмите за Терминатор – суперкомпютърът на министерството на отбраната на САЩ, който решава, че хората са излишни на планетата Земя и започва ядрена война.

Към днешен ден тези сценарии са едва ли не нещо естествено в научната фантастика: ако във филма има достатъчно интелигентна компютърна система, то тя най-вероятно ще се стреми към господство над човешката раса.

Хората, които разработват и разбират работата на невронните мрежи са твърде озадачени от тези разсъждения. Има много рискове от съществуването на ИИ, за които наистина си струва да се тревожим – икономически сътресения, допускани грешки в критично важни приложения и оръжия с „Изкуствен Идиот“ в тях. Но хората повече се интересуват и безпокоят от властолюбивите роботи, които могат да решат да завземат властта над света. Но за какво му е на развития и разумен изкуствен интелект да завзема Земята? Това едва ли някога ще стане.

Ние твърде много преувеличаваме заплахата от завземането на Земята, понеже сме склонни да свързваме интелекта със стремежа за доминиране. Но е добре да се знае, че интелектът сам по себе си не предизвиква тяга към превъзходството, като например рогата на биковете.

Това е просто способност за усвояване и използване на знанията и навиците за постигането на целта. Интелектът не осигурява самата цел, той е само средство за нейното постигане. „Естественият интелект“ – интелектът на биологичните организми е еволюционна адаптация и като всички други подобни адаптации, възниква при естествения отбор, понеже способства за оцеляването на индивида и размножението на рода. Тези основни цели са програмирани като инстинкти дълбоко в нервната система и на на най-опростените организми.

Но компютърните системи с изкуствен интелект не са преминали през огъня на естествения отбор и не им се е налагало да развиват инстинкт за самосъхранение. Осъзнавайки този факт писателят фантаст Айзък Азимов предлага своя знаменит Първи закон на роботиката: „Роботът не може да навреди на човешко същество или чрез бездействие да причини вреда на човешко същество„. Това правило и до днес се използва и се взема предвид при проектирането на роботи, работещи с хора.

Съблазнително е да се предполага, че ако наистина сме еволюирали от някакво друго същество – не от обикновената маймуна, а например от орангутана или слона (едно от най-разумните същества на планетата), ние нямаше да сме толкова склонни да виждаме неизбежната връзка между интелекта и доминирането. Вместо това бихме могли да се съсредоточим върху интелекта като инструмент за разширяване на съвместната работа. Самките на азиатските слонове например, живеят на малки групи, в които не се демонстрира йерархия и доминиране.

Интересно е, че самците на слоновете живеят като много по-свободни групи и често се борят за доминиране, понеже само най-силните от тях получават най-хубавите самки. А орангутаните живеят съвсем уединено. Техните самки нямат стремеж към матриархат, но самците понякога се конкурират за тях. Това и редица други наблюдения показват, че стремежа към доминиране в по-голяма степен корелира с тестостерона, отколкото с интелекта. И при хората – тези които се стремят към власт, много рядко са най-умните сред нас. Оттук може да се направи извод, че ИИ няма да се стреми да унищожава биологичната конкуренция. В него просто не са заложени принципите на доминирането.

Безпокойството по повод на това, че е възможен сценарий на развитие на нашия живот с изкуствения интелект подобно на Терминатора, ни отвлича от реалните проблеми, свързани с ИИ. Всъщност ИИ неизбежно ще се използва в най-новите оръжия и може да доведе до създаването на съвсем нови начини за водене на война. И още, ИИ може да разруши основите на сегашната световна икономика. Направено наскоро изследване показа, че постепенно 47% от работните места в САЩ ще бъдат заети от умните роботи.

Докато ИИ повишава производителността на труда, създава нов тип работни места и развива други области на икономиката, работниците и служителите ще трябва да изучават нови специалности и много от тези хора ще останат много назад. Както и при предишните технологични революции, ИИ може да доведе до ръст на неравенството в богатствата и доходите, ако не бъде въведена нова данъчна и бюджетна политика. Ясно е, че има редица непредвидени рискове, типични за всяка нова технология, които са много по-важни от ИИ с комплекс на Наполеон.

Няма съмнение, че ИИ ще доведе до дълбоки промени в следващите десетилетия. В тази технология има голям потенциал и в най-добрия случай ще ни освободи от примитивната работа и хората ще могат да създадат една утопия, в която ще се занимават със самоусъвършенстване в свободното си време. В най-лошия случай, в третата световна война ще участват армии от свръхразумни роботи. Но те няма да бъдат ръководени от HAL, Скайнет или други подобни. Дори и в този най-лош вариант роботите ще бъдат командвани от нас и за всичко случило се можем да обвиняваме само себе си.