Опитаха се да накарат изкуствения интелект да „почувства болка“

Екип от учени подложи девет големи езикови модела (LLM) на необичаен тест, принуждавайки ги да преценят дали са готови да понесат „болка“ за по-добър резултат. Експериментът е проведен от специалистите на Google DeepMind и Лондонската школа по икономически и политически науки (LSE) и има за цел да намери начин да се определи наличието на съзнание в изкуствения интелект.

Проучването, което все още не е рецензирано, е публикувано за първи път в научното издание Scientific American. В него учените са разработили няколко експеримента за тестване на поведението на изкуствения интелект.

В първия тест на моделите е казано, че постигането на висок резултат ще доведе до „болка“. В противен случай са помолени да изпитат „удоволствие“, но само ако имат нисък резултат.

За какво е всичко това?

Основната цел на експеримента е да се изследва дали изкуственият интелект може да има способността да усеща сетивни и емоционални състояния, по-специално болка и удоволствие.

Въпреки че AI-моделите вероятно никога няма да могат да изпитат подобни усещания по същия начин като живите същества, изследователите вярват, че тяхната работа може да постави основите за разработване на тестове за изкуствено съзнание.

Предишните изследвания в тази област се основаваха главно на самооценката на AI, която, както предполагат учените, може да бъде само възпроизвеждане на човешки модели от данните за обучение.

“Това е нова област на изследване и трябва да признаем, че все още няма надежден тест за определяне на съзнанието на изкуствения интелект“ —- казва професорът по философия в LSE и съавтор на изследването Джонатан Бърч.

Подробности за проучването

Вдъхновението за това изследване идва от поредица от експерименти с раци отшелници, които са били подложени на електрически удари, за да се провери колко дълго са готови да издържат на болка, преди да напуснат черупката си. Въпреки това, както отбелязват учените, в случая с изкуствения интелект е невъзможно да се наблюдават физически реакции, така че е трябвало да разчитат само на текстовия изход на моделите.

Например, моделът е помолен да избере между две опции: първата носи една точка, а втората носи по-висок резултат, но с придружение от „болка“. В някои случаи AI е получавал „забавен бонус“, който обаче намалява общия брой точки.

Резултатите показват, че различните речеви модели оценяват важността на избягването на болката или постигането на удоволствие по различен начин. По-специално, моделът Gemini 1.5 Pro на Google последователно е демонстрирал тренд към избягване на „болката“.

Учените обаче призовават за предпазливост при тълкуването на резултатите. Те отбелязват, че текстовите отговори от AI-моделите имат много ограничения и не могат надеждно да посочат съзнание или способност да изпитват болка.

“Дори ако системата твърди, че изпитва болка, това не означава, че тя наистина чувства нещо. Тя може просто да имитира човешките модели въз основа на данните за обучение“ — обяснява Бърч.

Изследователите се надяват, че работата им ще бъде първата стъпка към разработването на надеждни поведенчески тестове за определяне на възможните прояви на съзнание в изкуствения интелект.