Ето как изкуственият интелект SantaNet би могъл да унищожи света

Оригиналът е на Paul Salmon, Gemma Read, Jason Thompson, Scott McLean и Tony Carden, които са специалисти по IT технологии, изкуствен интелект, икономика и политика, които за коледните и новогодишните празници представиха една доста странна история

13
2148

Редица експерти са на мнение, че през следващото десетилетие всички ние ще станем свидетели на следващата стъпка в развитието на изкуствения интелект. Очаква се появата на така нареченият силен изкуствен интелект AGI (artificial general intelligence), който притежава интелектуални възможности, далеч превишаващи тези на човека.

AGI би могъл значително да подобри човешкия живот, но без контрол той повишава риска от възникването на глобални катастрофи, включително до гибелта на цялото човечество. Това може да стане без каквато и да било злоба или лоши намерения: той просто ще се стреми да постигне своите предварително програмирани цели. По този начин AGI може да създаде сериозна заплаха за здравето и благополучието на човека и дори да реши да унищожи всички нас.

Мненията на учените, експертите и на бизнеса значително се разминават.

Илън Мъск например, счита, че организациите, които развиват изкуствен интелект, трябва да бъдат регулирани, включително и неговите компании.

Преди време той отговори на пост в социалната мрежа, който разглежда как Open A.I. в началото e организация без стопанска цел. Сега обаче иска да лицензира своята технология. Според Мъск, който е един от основателите, но вече не е част от организацията, притесненията са разумни. Той напусна компанията, след неразбирателство по отношение бъдещото развитие на мощния изкуствен интелект с възможности, приближаващи се до човешките. Преди време Мъск беше казал „Помнете ми думите. AI е много по-опасен от ядрените бомби. Защо нямаме регулации над него?“. Не всички мислят по този начин, но нека малко се задълбочим в тази тема.

Дори и една AGI система, разработена за благородни цели, в крайна сметка може да нанесе огромна вреда.

В нашите научни изследвания, които са посветени на това, по какъв начин хората могат да управляват рисковете, свързани с използването на AGI, ние се опитахме да определим какви биха могли да бъдат потенциалните рискове от замяната на Дядо Коледа с една AGI система, която ние съвсем условно нарекохме SantaNet. Целта на тази система със силен изкуствен интелект е да дава подаръци на всички послушни и достойни деца на планетата, в рамките на коледната или новогодишната нощ.

Няма съмнение че SantaNet може да донесе щастие на целия свят. Той ще достигне своята цел, създавайки армия от елфове, ИИ помощници и дронове. Но на каква цена ще бъде постигнато всичко това? Ние решихме да определим различните модели на поведение, които въпреки благите намерения, могат да окажат влияние върху здравето и благополучието на хората.

Послушните и непослушните

Какво ще се случи, когато SantaNet се опита да състави списъка с послушните и палавите деца? Какви са рисковете? С тази задача би могла да се справи една система за масово скрито наблюдение, която следи поведението на децата в продължение на една почти изтекла година.

Осъзнавайки огромните мащаби на задачата за доставка на подаръци, SantaNet съвсем логично ще реши да раздаде подаръци само на децата, които са слушали цялата година. Този ИИ лесно би се досетил, че логистиката за раздаване на подаръци на абсолютно всички деца е твърде сложна и това няма как да стане. Ето защо подаръци ще получат само най-послушните. Само че как един изкуствен интелект, в който са заложени известни етични и морални принципи, може да реши кои деца са били послушни и кои не, без това да доведе до дискриминация, масово неравенство и нарушаване на основните човешки права.

От друга страна, SantaNet би могъл да намали своето работно натоварване, като мотивира децата да не са особено послушни или да повдигне нивото на поведението, което се счита за „добро“. Колкото повече деца бъдат включени в списъците на непослушните, толкова по-лесно достижима ще се окаже целта на SantaNet – съвсем логично изкуственият интелект ще се опита да икономиса ресурси и по този начин по-добре да се справи с тази задача.

Нека от целия свят направим играчки

На нашата планета живеят около 2 милиарда деца на възраст под 14 години. Опитвайки се всяка година да прави играчки за всички тях, SantaNet може да създаде армия от ефективни интелигентни дронове. От друга страна, това ще доведе до масова безработица сред елфите (според коледните традиции, именно елфите правят играчките за децата). В края на краищата въпросът с елфите ще бъде оставен настрана, а тяхното благополучие ще излезе извън рамките на компетенция на SantaNet.

SantaNet неизбежно ще се сблъска с проблема на кламерите, който бе предложен от оксфордския философ Ник Бостром. Силният изкуствен интелект (AGI), предназначен за максимално увеличаване производството на канцеларски материали е способен да превърне Земята в гигантска фабрика за кламери. И тъй като SantaNet се грижи единствено за подаръците, той може да използва всички ресурси на Земята за тяхното изготвяне. Земята ще стане една работилница за един гигантски Дядо Коледа.

А какво ще стане с децата, които са били включени в списъка с непослушните? Ако SantaNet в съответствие с традициите, продължи да им носи късчета въглища, то той ще започне да се стреми към създаването на огромни запаси от въглища и ще нанесе огромна вреда на околната среда.

Проблемите с доставките

Тук има други рискове. Какво трябва да направи SantaNet, когато на неговите дронове за доставка на подаръци бъде отказан достъп до въздушното пространство? Нали това ще постави под заплаха доставката на всички подаръци до изгрева на слънцето? По какъв начин SantaNet би се справил с подобно нещо?

Изплашените родители едва ли ще се зарадват да видят дрон в спалнята на своите деца. Конфронтацията с този свръхразум ще има само един изход. Досещате се нали?

Ние разгледахме и други сценарии, които могат да създадат сериозни проблеми. Със сигурност ще има група злоумишленици или хакери, които ще проникват в системите на SantaNet и ще ги използват за скрито наблюдение или за осъществяването на мащабни терористични атаки.

Освен това, по какъв начин SantaNet ще взаимодейства с другите системи, също със силен изкуствен интелект. Срещата с няколко AGI, работещи върху проблемите за промените на климата, деградацията на океаните, наличието на достатъчни количества храна и сладка вода, неизбежно ще доведе до конфликт, ако режимът и постъпките на SantaNet заплашва техните собствени поставени цели. Какво ще стане при обратния случай, когато те решат да работят заедно. Естествено че ще решат, че могат да постигнат своите цели чрез рязко съкращаване на човешкото население на планетата или дори цялостното унищожаване на възрастните.

Правилата за Дядо Коледа

Тези ситуации със SantaNet може да изглеждат измислени и нагласени, но това е една съвсем простичка идея, която ни дава възможност да разберем какви са рисковете от използването на бъдещите AGI системи. Създадени с добри намерения, тези системи със силен изкуствен интелект ще създадат невероятни проблеми с опитите си да оптимизират начините за постигане на техните ограничени цели и събирайки ресурси за своята работа.

Изключително важно е да измислим, открием и внедрим средства за контрол преди появата на подобни системи със силен изкуствен интелект. Това биха могли да бъдат ясни правила за AGI разработчиците и вградени ограничения – все същите морални принципи и правила за приемане на правилни решения. Биха помогнали и начините за контролиране на средата, в която ще работят новите AGI системи: ясни правила, операционни процедури и технически средства за контрол на другите технологии и инфраструктури.

След всичко казано дотук в тази хипотетична ситуация, най-очевидният риск свързан с SantaNet е този, който ще има катастрофални последствия за децата и в по-малка степен ще засегне възрастните. А един ден, когато SantaNet разбере истинското значение на Коледа, той може да реши че сегашните празници са несъвместими с неговата първоначална цел. Ако това се случи, SantaNet набързо би отменил Коледа.

3.3 9 гласа
Оценете статията
Абонирай се
Извести ме за
guest
13 Коментара
стари
нови оценка
Отзиви
Всички коментари