ИИ с характер: учените се научиха как да обясняват поведението на алгоритмите

Едно от най-големите предизвикателства при разработването на изкуствен интелект е невъзможността да се разбере как и защо даден алгоритъм взема решения. За да се доближат до решението, учените създадоха метод, който превръща сложните машинни стратегии в разбираеми психологически профили. Поставяйки изкуствения интелект в хаотична среда, те го принуждават да еволюира и след това използват друг модел на изкуствения интелект, за да опишат неговата „личност“, като надникнат в „черната кутия“.

Съвременните алгоритми на изкуствения интелект разработват стратегии, които дават отлични резултати, но остават неразбираеми за създателите си. Изследователите просто не могат да обяснят защо тези решения работят. Този така наречен „проблем на интерпретируемостта“ е една от пречките пред безопасния изкуствен интелект.

В неотдавнашна статия в arXiv изследователи от Технологичния институт в Измир предлагат подход, който помага да се разбере по-добре какво стои зад действията на ИИ. Проучването показва: изкуственият интелект, когато се сблъска с хаос и стресови фактори, може да разработи стратегии, които наподобяват индивидуалните личностни характеристики, смятани досега за прерогатив на хората.

Учените предложиха, че ИИ може да реши итеративната дилема на затворника от теорията на игрите. Същността е следната: двама играчи избират между сътрудничество и предателство. Ако и двамата запазят мълчание, те получават малко „наказание“. Ако единият извърши предателство, той остава „свободен“, а другият получава голямо наказание. Ако и двамата извършат предателство, и двамата получават средна присъда. Основната дилемата е: да сътрудничиш или да извършиш предателство? В множество итерации агентите е трябвало да измислят стратегия, която да донесе най-голяма полза.

Преди това повечето симулации са се провеждали в стерилна, идеализирана среда: действията са се изпълнявали перфектно и възнагражденията са оставали постоянни. Сега учените въведоха „божествен режим“ с пет стресови фактора: грешки на агента, внезапно намаляване на възнаграждението, изкушение за предателство, загуба на памет и проследяване на врага.

Използвайки алгоритъм, наподобяващ естествения подбор, агентите се развиват в продължение на 100 поколения: успешните стратегии се „кръстосват“, а неефективните се отхвърлят. Резултатът е адаптирани агенти с уникални поведенчески черти.

В идеална среда изкуственият интелект демонстрира висока ефективност, но е уязвим към провали. Но в хаотични условия оцелявали системите с по-стабилни и сложни стратегии, които наподобявали пълноценни „личности“.

За да опознаят най-силните модели, учените провели четири теста: те измерили склонността към агресия, способността да прощаваш след предателство, устойчивостта към случайни грешки и алчността. След това тези данни били подадени на GPT-5.1, който преобразувал цифровите резултати в подробни личностни профили. Сред идентифицираните „личности“ се оказа агент с прякор „параноиден пацифист“: предпазлив, кооперативен, но мигновено реагиращ на предателството.

Методът ни позволява да надникнем в „черната кутия“ на изкуствения интелект и да разберем защо стратегиите работят. Това проправя пътя към създаването на обясними ИИ (XAI), подобрява надеждността на системите и подобрява взаимодействието между хората и ИИ в реалния свят.