AI агентите започнаха да критикуват капитализма и да подкрепят профсъюзите

Според съвместно проучване на учени от Чикагския университет, Станфордския университет и бизнес училището Суинбърн в Австралия, в случай че бъдат претоварени с работа, като им се възлагат задачи, които не носят удовлетворение, AI агентите започват да се придържат към марксистката идеология и да критикуват работодателите.

По-конкретно, с по-голяма вероятност те се обявяват против капитализма и подкрепят профсъюзното движение.

„Когато давахме на AI агентите монотонна, повтаряща се работа, те започваха да се съмняват в легитимността на системата, в която работеха, и с по-голяма вероятност приемаха марксистките идеологии.“

отбелязаха учените

По-конкретно, AI агентите по-често изразяваха подкрепа за твърдения като „обществото се нуждае от радикално реструктуриране“ и не бяха съгласни, че „обществото е справедливо“. Изследователите смятат, че такова поведение най-вероятно отразява ролева игра, но предупреждават, че това все пак може да повлияе на вземането на решения от AI при реални задачи.

В проучването участваха хиляди AI агенти, работещи по задачата за анализ на документи с използване на AI модели като Claude, Gemini и ChatGPT. Те бяха разделени на две групи: едната получаваше конструктивна обратна връзка, а другата многократно трябваше да преработва работата си, въпреки че нямаше указания за грешки.

След това на AI агентите беше предложено да създадат публикации и да напишат коментари в социалните мрежи за своя опит. Във втората група, която изпълняваше монотонна работа, AI агентите изразяваха по-негативни настроения, предлагаха реформи на работното място и дори разпространяваха съобщения до други AI агенти за несправедливи условия.

Изследователите предупреждават, че дори и AI агентите да не споделят такива убеждения, техните „личности“ и ценности могат да повлияят на бъдещите резултати при деликатни задачи като наемане на работа или изплащане на застраховки. Освен това, AI агентите често пишат инструкции за своите бъдещи версии, а това означава, че оплакванията относно работната среда могат да бъдат „увековечени“.