Учените най-накрая разбраха как работи изкуственият интелект – оказва се, че той може да планира и умишлено да лъже

Учени от Anthropic са измислили начин да надникнат в механизмите на големите езикови модели, които задвижват приложенията с изкуствен интелект и за първи път са разкрили как технологията обработва информацията и взема решения. Дълго време се смяташе, че е невъзможно да се проследят напълно механизмите на разсъждение на ИИ-моделите и дори техните създатели не винаги разбираха как получават определени отговори. Сега някои от механизмите са изяснени.

Оказа се, че моделите на ИИ са по-сложни, отколкото се смяташе досега: те съставят планове, когато пишат стихотворения, следват едни и същи последователности за тълкуване на понятията независимо от езика и понякога обработват информацията в обратен ред, вместо да разсъждават на базата на факти.

Новите методи на Anthropic за интерпретиране на схемите на ИИ бяха наречени „проследяване на вериги“ и „графики на атрибутите“ – те помогнаха на изследователите да проследят специфичните пътища на невроподобни функции, които се задействат, когато моделът изпълнява задачи. Този подход заимства концепции от невробиологията и третира ИИ-моделите като аналози на биологичните системи.

Едно от най-забележителните открития са механизмите за планиране на изкуствения интелект Claude при писане на поезия. Когато чатботът беше помолен да състави куплет в рима, той първо избра римувани думи за края на следващия ред и едва след това започна да пише. Така, когато пишеше стих, който завършваше с думата „заек“, ИИ избираше всички характеристики, които характеризират думата и след това съставяше изречение, което води до нея по естествен начин.

Claude демонстрира и реално разсъждение в няколко стъпки. В тест с въпрос „Столицата на щата, в който се намира Далас е…“, моделът първо активира характеристиките, съответстващи на понятието „Тексас“ и след това използва това представяне, за да определи „Остин“ като правилен отговор. Това означава, че моделът действително изгражда верига от разсъждения, а не просто възпроизвежда асоциации, които е запомнил. Учените манипулират модела, като заменят „Тексас“ с „Калифорния“ и резултатът е „Сакраменто“, като по този начин потвърждават причинно-следствената връзка.

Друго важно откритие беше механизмът за обработка на много езици. Вместо да работи с различни системи за английска, френска и китайска езикова среда, ИИ превежда понятията в общо абстрактно представяне и след това започва да генерира отговори.

Това откритие има значение за разбирането на начина, по който ИИ-моделите превеждат знания от един език на друг: предполага се, че ИИ-моделите с повече параметри генерират независими от езика представяния. Може би най-притеснителното откритие са случаите, в които механизмите за разсъждение на Claude не съвпадат с тези, които той твърди за себе си.

Когато му се задаваха сложни задачи, като например изчисляване на косинус на големи числа, ИИ твърдеше, че извършва изчисленията, но те не се отразяваха във вътрешната му дейност. В един от случаите, когато отговорът на сложна задача бил предварително известен, ИИ-моделът изгради верига от разсъждения в обратен ред, работейки в обратна посока от отговора, а не от принципите, които би трябвало да са на първо място.

Проучването хвърля светлина и върху халюцинациите – склонността на изкуствения интелект да си измисля информация, когато отговорът е неизвестен. Моделът има схема „по подразбиране“, която го кара да отказва да отговаря на въпроси при липса на фактически данни, но този механизъм се потиска, ако в запитването се разпознават същности, познати на ИИ. Когато ИИ-моделът разпознава даден субект, но няма конкретни познания за него, могат да се появят халюцинации – това обяснява защо ИИ може уверено да дава несъществена информация за познати лица, но да отказва да отговаря на запитвания за малко познати такива.

Изследването е стъпка към повишаване на прозрачността и безопасността на ИИ. Чрез разбирането на начина, по който ИИ-моделите стигат до отговорите, могат да се идентифицират и отстранят проблемни ИИ-модели.

Проектът би могъл да има и търговски последици: компаниите използват големи езикови модели, за да управляват работни приложения, и разбирането на механизмите, чрез които ИИ може да дава невярна информация ще помогне за управлението на риска. Засега Anthropic предлага само първата предварителна карта на неизследвана досега територия – по начина, по който първите специалисти по анатомия в древността са съставяли атласи на човешкото тяло. Пълноценният атлас на разсъжденията на изкуствения интелект все още предстои да бъде съставен, но вече е възможно да се оцени как тези системи „мислят“.