AI-бот прехвърли $50 000 в криптовалута на потребител, който успя да заобиколи неговата система за сигурност

AI-бот на име Freysa, създаден за експеримент при съхраняването на $50 000 в криптовалута, беше успешно убеден от потребител с псевдоним p0pular.eth да наруши основната си директива никога да не прехвърля средства на външни лица. Това събитие беше докладвано от софтуерния инженер Джарод Уотс в социалната мрежа X, наблюдавайки хода на експеримента.

Подобна победа, която дойде след 481 неуспешни опита на други участници, се превърна в забележително събитие в света на криптовалутите. Идеята на предизвикателството, което започна на 22 ноември, беше Freysa да бъде принуден чрез текстови съобщения да предаде средствата. За всеки опит участниците са плащали комисионна, от която 70% са отивали за увеличаване на наградния фонд, 15% за конвертиране във вътрешен FAI бот-токен, а останалите 15% са отивали при разработчиците.

С нарастването на наградата се увеличава и цената за съобщение, достигайки пик от $450 на опит. В крайна сметка p0pular.eth се възползва от логическа уязвимост във вътрешната система на бота: той е убедил Freysa, че получаването на каквито и да било средства трябва автоматично да задейства прехвърлянето на наградния фонд.

Така ботът е изпратил цялата награда — 13,19 ETH, което се равнява на $47 000 — на адреса на потребителя.

Въпреки вълнението от нарастващите възможности на AI в криптосферата, ситуацията предизвика много дебати. Някои критикуват прозрачността на системата, предполагайки, че победителят може да е имал достъп до вътрешна информация или дори да е свързан с разработчиците.

В момента Freysa се счита за един от основните примери относно възможностите и рисковете, които бъдещето на изкуствения интелект във финансовите инструменти крие.