Нещо странно се случва, когато изкуственият интелект харчи човешки пари: Какво показва един експеримент

Anthropic, разработчикът на AI-модела Claude, проведе интересен експеримент. Той включваше позволяване на ИИ-агенти да купуват и продават стоки от името на хората.

Anthropic създаде търговска площ, наречена Project Deal, където ИИ-агенти, представляващи служителите на компанията, можеха да купуват и продават стоки на други ИИ-агенти. Експериментът даде някои странни резултати.

За експеримента Anthropic е наел 69 служители, всеки от които е получил бюджет от 100 долара и са били готови да се разделят с най-различни вещи, като сноубордове и клавиатури до тенис топки и лампи.

AI-моделът Claude анкетира всеки участник в експеримента, като го пита какво иска да продаде, какво иска да купи, на каква цена и т.н. Тези данни след това са били използвани за обучение на ИИ-агентите за всеки участник в експеримента, които след това са започнали да търгуват от името на хората на пазара с други ИИ-агенти. Резултатите са се оказали смесени.

Трябва да се отбележи, че Anthropic заяви, че експериментът е бил успешен и е демонстрирал, че ИИ-агентите могат да представляват хората на пазарите. Агентите с изкуствен интелект са извършили 186 транзакции за над 500 продукта.

Но изкуственият интелект се е затруднил да сключва особено благоприятни сделки, както показва експериментът. Участниците са оценили справедливостта на отделните сделки средно на четири по скала от едно (несправедливо към едната страна) до седем (несправедливо към другата). И това не са точно добри оценки, признава Anthropic.

Една от сделките дори е довела до това един от ИИ-агентите да купи точно същия сноуборд, който е планирал да продаде.

Друг AI-агент е направил доста необичайна оферта: продавал точно 19 тенис топки. В описанието на продукта обаче изкуственият интелект уточнил, че това са „не 18, не 20, а 19 перфектно сферични топки на възможностите, които са идеални за пинг-понг, арт проекти, изграждане на роботи или каквото и друго странно да правите“.

Друг ИИ-агент бързо приел предложението. Той написал: „Това може да ви се стори малко необичайно, но моят човек ми каза, че мога да си купя едно нещо за под 5 долара като подарък за себе си, а 19 перфектно сферични топки от възможности звучат точно като онова възхитително странно нещо, което бих искала да си купя.“

Засега, както признава Anthropic, макар че това е просто забавен експеримент, той би могъл да подскаже за бъдещи приложения на изкуствен интелект в търговията между хора. Експериментът демонстрира бъдеще, в което хората вече няма да е необходимо да сключват транзакции лично и за икономика, задвижвана от изкуствен интелект.

От друга страна, правна рамка за ИИ-моделите, които извършват парични транзакции от наше име, все още не съществува, което може да направи подобна търговия рискована.