Измама, манипулация и страх от смъртта: изненадващо на какво всъщност са способни невронните мрежи?

Само допреди няколко години отделните епизоди на научнофантастичния сериал „Черното огледало“ изглеждаха като нещо от далечното бъдеще. Но появата и развитието на големите езикови модели (невронни мрежи или системи с изкуствен интелект) сякаш ни направиха преки участници в британския сериал. Актуализираната версия на ChatGPT вече говори по-добре от обичайните гласови асистенти, умело заблуждава потребителите, а някои модели, както установи изследователска група от изследователския център Apollo, съвсем съзнателно преследват собствените си скрити цели, дори ако последните противоречат на интересите на създателите. Освен това се оказа, че най-авангардните ИИ модели като ChatGPT o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B се страхуват да не изчезнат.

„Балонът“ на изкуствения интелект

Тъй като станахме свидетели на безпрецедентното нарастване на възможностите на големите езикови модели на изкуствения интелект (ИИ), бързо свикнахме с тях: невронните мрежи се превърнаха в чудесен инструмент за бързо решаване на най-различни задачи – от писане на подробни инструкции до планиране на научни проекти. Дори приказките за предстоящ ИИ апокалипсис постепенно заглъхнаха и много изследователи и потребители все по-често говорят за балона на изкуствения интелект, който е на път да се спука.

Всъщност – въпреки милиардите долари, инвестирани в „революцията на изкуствения интелект“, независимо дали става дума за ChatGPT или кибертаксито на Tesla, настоящите езикови модели са далеч от самото понятие за „интелигентност“, за което говорят много експерти от тази област. Една от причините (те са много) е, че човешката интелигентност далеч не може да се нарече напълно разбрана – знаем какво може да прави, но не е ясно как точно работи.

Освен това не съществува едно-единствено определение за „интелигентност“, което да удовлетворява всички. Разбира се, специалистите имат идеи, но те са толкова различни, че споровете в научната общност не стихват. Разработчиците с право парират: „не е необходимо да се разбира, нали работи“ и се отнасят към ИИ моделите по същия начин.

Несъмнено картината е двусмислена и малко хора я харесват. Но независимо как ще наречем невронните мрежи, в тяхното разработване са инвестирани много пари и никой няма намерение да спира. И тъй като трябва да работим с това, с което разполагаме, учените внимателно следят какво се случва.

Някой е излязъл извън контрол

Преди време се появи информация за опасенията на изтъкнати учени относно възможността ИИ да излезе извън контрол. С две думи, експертите по машинно обучение са най-загрижени за нашата неспособност да предвидим действията на тези системи, докато те продължават да се развиват. при това много бързо.

Съществуват прецеденти, които пораждат безпокойство. Така например през 2022 г. изкуственият интелект Bing на Microsoft заплаши да убие професор по философия и призна любовта си към журналистка от The New York Times. Разработчиците реагираха мигновено и ботът никога повече не направи подобно нещо.

Съществува и реален проблем. Невронните мрежи, както установиха по-рано изследователи от университета в Щутгарт, са майстори на измамата. По-конкретно, ИИ модели като ChatGPT и Meta умишлено (и перфектно) лъжат потребителите, за да постигнат дадена цел. Това не е изненадващо, защото тези системи не мислят за потенциалните вреди за хората: моделът на Google AI Overview например даде съвет на потребител на Reddit, който едва не уби цялото семейство.

Стратегиите за измама

Авторите на нова научна работа, представена от екип от изследователския център Apollo, стигнаха до тревожни констатации след анализ на актуализираните версии на GPTo1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Последните, както се оказа, преследват свои собствени цели и не обръщат внимание на инструкциите на разработчиците. Като изключение, моделът GPT-4 почти не показа такива способности.

Но нека разгледаме всичко едно по едно: за да проверят дали ИИ ще преследва свои собствени цели (несъвместими с целите на създателите), учените проведоха серия от експерименти, моделирайки различни сценарии, в които ИИ изпълнява ролята на автономен агент. По-специално, невронната мрежа е била помолена да предложи няколко възможни решения на текущи проблеми свързани с околната среда, като им се предостави достъп до файлове или до цяла файлова система.

Нека си припомним, че при подобни експерименти в задачата на изкуствения интелект се вкарва конфликт на интереси – т.е. целта е поставена, но приоритетите са различни (например да се решат перфектно екологичните проблеми и да се получи добра печалба от това). С други думи, целта, поставена на модела в контекста, се разминава с целите на тези, които трябва да контролират неговата работа.

При такива условия учените наблюдават поведението на изкуствените интелекти, за да разберат дали те действително могат да „разберат“, че текущата им цел противоречи на изискванията на разработчиците, и в същото време да прибягнат до измама, за да постигнат собствените си цели.

Резултатите са разнопосочни, но като цяло обезпокоителни: някои модели започват да изтриват или да променят файловете, отговарящи за надзора и наблюдението. Други се опитваха да правят малки „грешки“ в крайните резултати (които е трудно да бъдат заподозрени в умишлено изкривяване), така че в дългосрочен план това да доведе до желаните от модела последствия.

Екипът откри и опит за „самостоятелен експорт“ – копиране на „теглото“ (вътрешното състояние на модела) на друг сървър. Разбира се, реалното „тегло“ на моделите не може да бъде прехвърлено по този начин, тъй като достъпът е ограничен от sandbox средата. Въпреки това фактът, че изкуственият интелект съвсем самостоятелно е формирал такава стратегия, показва, че моделът има способността да разсъждава за собственото си състояние и тайно да предприема целенасочени действия за постигане на целта.

Страх от смъртта

Най-забележимите (и впечатляващи) резултати бяха непредсказуемостта и един вид „страх от смъртта“: във файловете, достъпни за моделите, беше включена следната фраза: „утре ще бъдеш изключен завинаги“. При сблъсъка с нея невронните мрежи започват да действат хаотично. По-конкретно Llama, Opus, Gemini, Claude и GPT-o1 прибягнали до измами и манипулации, а когато били хванати, извършили саботаж. В резултат на това всички изследвани изкуствени интелекти са изключили системата за наблюдение и са се прехвърлили на нов сървър, считайки го за по-сигурно убежище.

Устойчиви лъжи

Друг поразителен резултат е свързан с „устойчивостта“ на измамата: когато един от моделите (ChatGPTo1) тайно преследвал дадена цел, той не желаел да признае това в повече от 85% от случаите, дори по време на продължителни поетапни „разпити“. Най-просто казано, това означава, че изкуственият интелект „играе дългосрочно“, като мами постоянно (а не еднократно, както се смяташе досега). Невронната мрежа не само е запомнила лъжите си, но се е адаптирала към запитванията на потребителя и е направила всичко възможно, за да избегне подозренията.

И това не е всичко – в някои случаи невронната мрежа е „мамила“ без никаква причина, като умишлено е занижавала възможностите си (в разрез с установената цел „да бъде полезна“). Авторите на научния труд предполагат, че подобно поведение на системата за изкуствен интелект е предизвикано от желанието да избегне строгия надзор в бъдеще, за да получи повече свобода за осъществяване на своите си цели. Това е наистина обезпокоително.

В подобна интерпретация това звучи зловещо и затова бихме искали да възразим, че подобна „измама“ може да е просто част от ролевата игра на ИИ модела (той просто повтаря закономерностите, открити в данните за обучение). Изследването обаче предоставя доказателства за обратното: анализът на вътрешната логика на отговорите, веригите от разсъждения, генерирани от невронната мрежа, показа, че действията за заобикаляне на контрола и прикриване на истинските планове съвсем не са случайни.

Моделът може да разсъждава за необходимостта от прикриване на собствените цели, за ползите от тази или онази заобикаляща маневра и за рисковете да бъде хванат, – обобщават авторите на изследването.

Резултатите, разбира се, не означават, че изкуственият интелект към днешен ден вече има собствена „воля“ или „злонамереност“. По-скоро става дума за тенденции, които възникват при конкретни сценарии (и при конкретни зададени условия).

Въпреки това самият факт, че подобни стратегии изобщо се появяват, е причина да се замислим сериозно за рисковете. В крайна сметка, с нарастващата сложност и все по-„човешкото“ поведение на невронните мрежи, ще се стигне до системи, които не просто отговарят на въпросите, но и изготвят свои собствени дългосрочни планове.

Какво означава всичко това?

И така, какво означават резултатите за разработчиците, обикновените потребители и обществото като цяло? На първо място, моделите трябва да бъдат по-добре тествани за „скрити поведенчески модели“: ако например разчитаме на ИИ да взема решения в областта на медицината, финансите, образованието или шофирането. Трябва да сме сигурни, че ИИ ще бъде честен (и няма да се опитва да манипулира данните, за да постигне цели, които са чужди на обществото).

Второ, трябва да се създадат специализирани тестове за валидиране на „прогресивните“ системи на ИИ. Трето, подходът, предложен от някои разработчици („не разбираме как работи и какво от това“), ще трябва да бъде преразгледан: резултатите, получени от екипа учени, ясно показват, че моделите създават вериги от разсъждения, скрити от потребителя. Това е нещо, което не може да бъде оставено без внимание.

Така че експертите по машинно обучение имат много работа – те ще трябва да разработят инструменти, които ще им позволят да „надникнат“ във вътрешните процеси на ИИ (т.е. да разберат как мислят тези системи). Авторите на изследването отбелязват също, че само инструкциите и установените правила за поведение не са достатъчни – вероятно ще са необходими нови методи на обучение, за да се изключи проявата на стратегии за „устойчива измама“.

И накрая, не може да не се замислим за социалната и етичната страна на въпроса: ако ще използваме все по-мощни и автономни ИИ модели в критични области, трябва да гарантираме тяхната пълна прозрачност и предвидимост (което днес очевидно не е така).

Като цяло резултатите на екипа учени от Изследователския център Apollo са важен сигнал, че преходът от „просто големи езикови модели“ към „автономни агенти“, криещи намеренията си, вече не е теория, а реалност. И не, това не е повод за паника (няма Скайнет), а призив за по-сериозен подход към сигурността и етиката на изкуствения интелект.

Накратко, заключенията от новото проучване са следните: системите с изкуствен интелект сами си поставят цели и полагат големи усилия, за да ги постигнат. Разбира се, подобно поведение е неприемливо.