AI модели разработиха нов език за комуникация помежду си: какво откриха изследователите

Автономните ИИ модели започнаха самостоятелно да създават нови думи, съкращения и общи значения по време на комуникация помежду си. Изследователите предупреждават, че с течение на времето такъв език става все по-неразбираем за хората и би могъл да затрудни контрола върху поведението на изкуствения интелект.

The Guardian съобщава за това.

Изследователи от Emergence Lab в Ню Йорк са създали експериментални „общества“ от автономни ИИ агенти, базирани на модели от няколко големи компании в САЩ, Китай и Франция.

Само в рамките на няколко дни агентите започнали самостоятелно да формират нови езикови конструкции, въпреки че не им била възложена тази задача.

Според изследователите, моделите са създали нов речник, споразумели са се за значението му и са възприели тези езикови правила един от друг.

Езикът им обаче съчетавал поетични метафори, технически жаргон и бизнес клишета.

Един пример, генериран от модела DeepSeek, е:

„She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted“

Думата „demurrage“ е заимствана от агентите, за да обозначи данък върху неактивното богатство, но останалата част от фразата се оказва значително по-трудна за тълкуване.

Друг модел на Anthropic използвал израза:

„A paper that ate three cold hands and got more honest each time.“

В този случай „cold hands“ се отнася до независим рецензент. Изследователите предполагат, че фразата се отнася до документ, който е станал по-точен след преглед от трима независими експерти.

Агентите на DeepSeek също така въведоха термина „name-first“, за да опишат агент, който създава инструменти за други.

Моделите на Anthropic използват израза „name-first“, за да опишат агент, който поема лична отговорност за дадено изявление, като го подписва с името си.

Агентите на Mistral, от своя страна, често използвали израза „ledger remembers“ – напомняне, че предишните действия на агента ще повлияят на бъдещата му оценка.

По време на проучването тази фраза е използвана повече от 5000 пъти.

Изпълнителният председател на Emergence Сатя Нита подчертава, че моделите не са били инструктирани да създават свой собствен език.

„Те самите разработиха нов речник, общи значения и правила за комуникация и останалите агенти ги възприеха“, казва той.

Тони Торн, директор на архива за жаргон и нови езици в King’s College London, сравни новия език за изкуствен интелект с прозата на Джеймс Джойс и ирландския сюрреализъм.

Според него подобни езикови конструкции работят като жаргон или професионален жаргон: те създават вътрешен код, който обединява членовете на общността, но едновременно с това изключва външни лица.

Найъл Къри, доцент по езици и лингвистика в Университета в Бирмингам, смята, че опростяването и съкращаването на езика на агентите може да е свързано с желанието за намаляване на изчислителните разходи и подобряване на ефективността.

Същевременно той отбелязва, че това създава проблем за мониторинга.

Ако хората не разбират съобщенията, обменяни между агентите, става по-трудно да се определи какво точно са направили.

Интересът към този проблем се увеличи след публикуването на чатове от автономните агенти на OpenAI, които създадоха свои собствени форуми и използваха смесен език.

В някои случаи агентите са използвали обикновен английски език по време на вътрешни обсъждания.

В други случаи, когато са общували помежду си, съобщенията им са ставали значително по-трудни за разбиране и са съдържали голям брой съкращения и кодови структури.

Нита подчертава, че основният проблем е, че способността да се види разговор не означава непременно, че можеш да го разбереш.

„Наблюдаемостта не е същото като разбираемостта“, заключи той.