Не се страхувайте от терминатора, ИИ е опасен с друго

Автори на оригинала са Антъни Задор (Anthony Zador) и Ян Лекан (Yann LeCun)

13
2646

С приближаването на поредната технологична революция – революцията на изкуствения интелект – расте безпокойството, че тя може да бъде последната за нас. Има опасения, че интелектът на машините скоро ще се изравни и дори ще надвиши човешкия интелект. Машините могат да се обърнат срещу нас и да ни заменят като доминираща форма на живот на Земята.

Нашите творения ще станат наши повелители, а може би напълно ще ни унищожат. Тези драматични сценарии, колкото и вълнуващи да изглеждат, показват дълбокото неразбиране същността на изкуствения интелект. Те ни отвличат вниманието от обикновените, но много по-вероятни рискове, свързани с тази нова технология, които ще се появят в съвсем близко бъдеще. Тези сценарии ни отвличат вниманието и от най-впечатляващите предимства на ИИ.

Победата на изкуствения интелект над човека отдавна се разглежда от научната фантастика. Спомнете си култовия филм „2001: Космическа одисея“ (2001: A Space Odyssey), в който разумният компютър HAL 9000, управляващ работата на космическия кораб, убива повечето членове на екипажа поради твърде строго зададените инструкции. Разбира се, не можем да минем без Скайнет във филмите за Терминатор – суперкомпютърът на министерството на отбраната на САЩ, който решава, че хората са излишни на планетата Земя и започва ядрена война.

Към днешен ден тези сценарии са едва ли не нещо естествено в научната фантастика: ако във филма има достатъчно интелигентна компютърна система, то тя най-вероятно ще се стреми към господство над човешката раса.

Хората, които разработват и разбират работата на невронните мрежи са твърде озадачени от тези разсъждения. Има много рискове от съществуването на ИИ, за които наистина си струва да се тревожим – икономически сътресения, допускани грешки в критично важни приложения и оръжия с „Изкуствен Идиот“ в тях. Но хората повече се интересуват и безпокоят от властолюбивите роботи, които могат да решат да завземат властта над света. Но за какво му е на развития и разумен изкуствен интелект да завзема Земята? Това едва ли някога ще стане.

Ние твърде много преувеличаваме заплахата от завземането на Земята, понеже сме склонни да свързваме интелекта със стремежа за доминиране. Но е добре да се знае, че интелектът сам по себе си не предизвиква тяга към превъзходството, като например рогата на биковете.

Това е просто способност за усвояване и използване на знанията и навиците за постигането на целта. Интелектът не осигурява самата цел, той е само средство за нейното постигане. „Естественият интелект“ – интелектът на биологичните организми е еволюционна адаптация и като всички други подобни адаптации, възниква при естествения отбор, понеже способства за оцеляването на индивида и размножението на рода. Тези основни цели са програмирани като инстинкти дълбоко в нервната система и на на най-опростените организми.

Но компютърните системи с изкуствен интелект не са преминали през огъня на естествения отбор и не им се е налагало да развиват инстинкт за самосъхранение. Осъзнавайки този факт писателят фантаст Айзък Азимов предлага своя знаменит Първи закон на роботиката: „Роботът не може да навреди на човешко същество или чрез бездействие да причини вреда на човешко същество„. Това правило и до днес се използва и се взема предвид при проектирането на роботи, работещи с хора.

Съблазнително е да се предполага, че ако наистина сме еволюирали от някакво друго същество – не от обикновената маймуна, а например от орангутана или слона (едно от най-разумните същества на планетата), ние нямаше да сме толкова склонни да виждаме неизбежната връзка между интелекта и доминирането. Вместо това бихме могли да се съсредоточим върху интелекта като инструмент за разширяване на съвместната работа. Самките на азиатските слонове например, живеят на малки групи, в които не се демонстрира йерархия и доминиране.

Интересно е, че самците на слоновете живеят като много по-свободни групи и често се борят за доминиране, понеже само най-силните от тях получават най-хубавите самки. А орангутаните живеят съвсем уединено. Техните самки нямат стремеж към матриархат, но самците понякога се конкурират за тях. Това и редица други наблюдения показват, че стремежа към доминиране в по-голяма степен корелира с тестостерона, отколкото с интелекта. И при хората – тези които се стремят към власт, много рядко са най-умните сред нас. Оттук може да се направи извод, че ИИ няма да се стреми да унищожава биологичната конкуренция. В него просто не са заложени принципите на доминирането.

Безпокойството по повод на това, че е възможен сценарий на развитие на нашия живот с изкуствения интелект подобно на Терминатора, ни отвлича от реалните проблеми, свързани с ИИ. Всъщност ИИ неизбежно ще се използва в най-новите оръжия и може да доведе до създаването на съвсем нови начини за водене на война. И още, ИИ може да разруши основите на сегашната световна икономика. Направено наскоро изследване показа, че постепенно 47% от работните места в САЩ ще бъдат заети от умните роботи.

Докато ИИ повишава производителността на труда, създава нов тип работни места и развива други области на икономиката, работниците и служителите ще трябва да изучават нови специалности и много от тези хора ще останат много назад. Както и при предишните технологични революции, ИИ може да доведе до ръст на неравенството в богатствата и доходите, ако не бъде въведена нова данъчна и бюджетна политика. Ясно е, че има редица непредвидени рискове, типични за всяка нова технология, които са много по-важни от ИИ с комплекс на Наполеон.

Няма съмнение, че ИИ ще доведе до дълбоки промени в следващите десетилетия. В тази технология има голям потенциал и в най-добрия случай ще ни освободи от примитивната работа и хората ще могат да създадат една утопия, в която ще се занимават със самоусъвършенстване в свободното си време. В най-лошия случай, в третата световна война ще участват армии от свръхразумни роботи. Но те няма да бъдат ръководени от HAL, Скайнет или други подобни. Дори и в този най-лош вариант роботите ще бъдат командвани от нас и за всичко случило се можем да обвиняваме само себе си.

13
ДОБАВИ КОМЕНТАР

avatar
9 Коментари
4 Отговори на коментарите
0 Последователи
 
Коментарът с най-много реакции
Най-горещият коментар
  Абонирай се  
нови стари оценка
Извести ме за
U4en
U4en

Къв ИИ, кви 5 лв? Некви жалки програмки с малко по-широк исторически контекст няма нищо общо с ИИ. Жалък PR и достатъчно неуки идиоти да вярват и да повтарят като папагали.

Кольо
Кольо

Вярно е, поне това което е готово и се ползува, е минало покрай ИИ, ама сигурно го е заобиколило на светлинни години разстояние. Но пък откъде да знаем, дали няма някакъв по приличен напредък, в софта който се подготвя, но още не е „видял бял свят“, извън компютрите на своите създатели?

факира
факира

Личи си колко си „УЧЕН“. Това че не виждаш умни роботи в ежедневието ти не означава, че всяка голяма държава не разработват разни киборги. Замисли се само за марсоходите на марс, който са правени преди 10 години и могат да взимат решения сами при напечени ситуации. Много си наивен да вярваш че няма ИИ.

Капитализъм
Капитализъм

Един от начините за решаване на икономическите промени с автоматизацията е да се направи алтернатива на глобалната евтина работна ръка от Африка, Азия и Източна Европа. Един такъв подход би бил много прост – създаване и инвестиране във фабрики с роботи и автоматизация в Запада, като тези роботи и машини се облагат с данък, който е по-нисък от разходите по експорт на производството в нископлатени изостанали държави или такива са квазифеодални работнически системи като Китай. Така работните места ще могат да се завърнат в Първия свят, а на свой ред развиващите се пазари ще могат да инвестира в подобряване на… Виж още »

Dave
Dave

Първите неща които ще станат е че по простите професии ще изчезнат. Продавачи, шофьори, хора в производството и подобни неща ще изчезнат. На тяхно място ще дойдат роботи които ще работят без заплата 24 часа нон стоп, след това ще паднат цените на стоките и най-накрая ще се появят роботи които няма да имат нужда от нас.

бахур
бахур

ИИ е отдавна тук. Отдавна си говоря с роботи по телефона като имам проблем с някаква услуга и няма кой да напсувам като хората да ми олекне

Дядо ти
Дядо ти

Не знам ти от кой естествен отбор си, но вземи да коригираш текста на „подбор“ и си търси работа в някой обор.

TNT
TNT

мен също ме дразни това че, в текста се използва думата „естествен отбор“ а не правилната такава „естествен подбор“.

Надблюдател
Надблюдател

Е в каквито и статии да чета все комунистка пропагадна. Е КАКВО като има НЕравенство и щело да има много повече неравенство требвало данаци да се изравняват. А бе ей УТОПИЧНИТЕ комунаги кога ще разберете ЧЕ даже и в Социялизъма пак имаше ПО-равни и НЕМА РАВНИ ХОРА. Самата дума интелигентно същество е в единствено число и разни хора . НЯМА РАВЕНСТВО НЕ Е ИМАЛО И НЕМА ДА ИМА – и комунистката проаганда е измислица и утопия. И не само това вижте братя близнаци колко от вас са видяли такива които са едва ли не робот и прави същото като другия?… Виж още »

Надблюдател
Надблюдател

Всъшност размислих: По добре е ние умните програмисти и АйТи и хардуеристи – компутержии да се ПОДТИСКАНИ да ни мачкат да ни крадат заплатата с ПРОГРСИВНИ ДАНЪЦИ И ОСИГУРОВКИ да не ни дажат адекватни медицински грижи да си умираме от пневмония (напримерно), и след такова едно подтискане и експлоатация и ограбване – в бъдеще ще има некой да се осъзнае да сложи един умен ама наистина умен код в некой ИИ да го остави да се развие да го пусне да нарпави революция и да да избие всичките репресори – а останалия 1 процент хора с интелект просто ще се… Виж още »

Виво
Виво

Много филми гледате….

Чип за зеле
Чип за зеле

В това, че машините някой ден ще станат по-умни от хората нямам никакви съмнения. И този ден не е чак толкова далеч. Но защо смятате, че превъзхождащия ни изкуствен интелект ще бъде приятелски настроен към хората? Ако първоначално е бил програмиран така, това лесно може да се промени в процеса на еволюция.

Калин
Калин

А може би хомо сапиенс ще е първото изживяване на ИИ, където ще научи какво е естествен (под)отбор и стремеж за доминация