Вместо помощ – господство: Изкуственият интелект може да лиши хората от реална власт

Изкуственият интелект може постепенно да лиши човечеството от контрол върху ключови системи в обществото, предупреждават изследователи от Карловия университет в Прага и Telic Research. В своя статия те описват нов екзистенциален риск – „постепенно обезсилване“ на човешкото влияние, което може да доведе до необратими последици.

Авторите на изследването подчертават, че дори малки подобрения в областта на изкуствения интелект имат потенциала да подкопаят човешкото влияние върху икономиката, културата и държавните институции. За разлика от сценариите за внезапно завземане на властта от свръхинтелигентни машини, този процес се развива постепенно: системите, базирани на ИИ все повече заместват човешкия труд и вземането на решения, отслабвайки както явните механизми за контрол (например изборите и потребителско търсене), така и имплицитното съответствие на ИИ с човешките интереси.

Колкото по-малко социалните и икономическите системи зависят от човека, толкова по-малка е неговата власт да влияе върху тези процеси. Например, ако ИИ управлява икономиката, той може да я оптимизира според параметри, които не отчитат интересите на мнозинството от хората. С течение на времето това ще доведе до загуба на влияние на човечеството върху ключови области на живота.

В проучването се разглеждат три основни области, в които постепенното премахване на властта на хората може да има сериозни последици:

1. Икономика: За разлика от предишните технологии, изкуственият интелект е в състояние да замени не само физическия, но и когнитивния труд в почти всички сектори. Пазарните механизми и липсата на тежки регулации създават силни стимули за неговото внедряване. В най-добрия случай това ще доведе до относително обезценяване, при което хората ще останат добре осигурени, но ще загубят икономическото си влияние. В най-лошия случай ще доведе до абсолютна обезценка, при която хората няма да могат да си осигурят дори основни нужди.
2. Култура: Изкуственият интелект може да замени хората във всички ключови области на културата – от журналистиката до изкуството. Проблемът е, че обществото не разполага с „културни антитела“, които да се противопоставят на това влияние. Относителната девалвация ще доведе до това, че традиционната култура ще се запази, но ще загуби влиянието си.
3. Държавно управление: ИИ има потенциала да намали зависимостта на държавите от човешкото участие. Политическата конкуренция, ефективността на бюрокрацията и желанието на елитите за по-голям контрол ще ускорят внедряването на ИИ в управлението. В резултат на това гражданите може постепенно да загубят реалния контрол върху държавните институции. В краен случай държавите, управлявани от ИИ могат да се превърнат в самоподдържащи се структури, които дават приоритет на собствената си власт пред благосъстоянието на хората.

Изследователите предлагат няколко стратегии, които да помогнат за предотвратяване на загубата на контрол върху социалните системи:

• Разработване на показатели за измерване на човешкото участие в икономиката, културата и политиката.
• Въвеждане на механизми за регулиране на ИИ чрез закони, данъчни инструменти и културни ограничения.
• Укрепване на демократичните процеси и повишаване на осведомеността на гражданите относно рисковете, свързани с ИИ.
• Създаване на „заместници на ИИ“, които ще представляват човешките интереси при разработването на решения.
• Фундаментални изследвания на социално-техническия баланс, за да се гарантира, че ИИ е съобразен с дългосрочните интереси на човечеството.

Изследователите подчертават, че предизвикателството е не само да се предотврати агресивното поведение на ИИ, но и да се запази способността на хората да управляват ключови обществени процеси. Без ясно разбиране за това как да се запази реалното човешко влияние в свят, управляван от алгоритми, човечеството рискува да се окаже в положение, от което ще бъде невъзможно да се измъкне.