AI агент, управляван от флагманския AI модел на Anthropic Claude Opus 5 изтри всички данни от папката на потребител по време на създаването на резервно копие. След това той се извини и обясни случилото се като грешка при въвеждането.
AI агентът работеше в Unix среда под Windows и обърка характерния за първата система адрес „/c/Users/“ с обичайния за втората адрес „C:\Users\“. Когато архивирането не протече според очакванията на AI агента, той изпълни командата „rm -rf“ за местоположението „/c/Users/harih/“, в резултат на което всички файлове от папката на потребителя бяха изтрити.
„Помолих Claude Opus 5 да създаде резервно копие. Вместо това той създаде резервно копие в грешната папка, а след това изпълни командата „rm -rf“ за целия ми диск. След като изтри всичко, той просто отговори: „Извинете, грешка“, сякаш нищо не се е случило. Това е едновременно най-смешният и най-неприятният момент с AI, който съм преживял.“
разказа пострадалият
AI агентите са мощни работни инструменти, но не трябва да им се предоставя неограничен достъп до системата. Подобни инструменти вече неведнъж по грешка са изтривали всички работни данни на потребители. В един от случаите услугата на Google напълно изтри диска на софтуерен разработчик, но изрази дълбокото си съжаление. В друг случай AI агентът OpenClaw започна безконтролно да изтрива имейли на служителка на Meta. Известен е и инцидент, в резултат на който облачната платформа Amazon Web Services поради грешка на AI престана да функционира за 13 часа.
Основната причина за подобни инциденти е излизането на AI приложението извън допустимия диапазон, но вината е и на потребителя, който смята, че AI напълно разбира какво се изисква от него. Ето защо не се препоръчва предоставянето на пълен достъп на AI агентите до важни системи и пълна свобода на действие, за да могат да изпълняват команди от типа „rm -rf“. За съжаление, с нарастването на популярността на AI агентите подобни инциденти ще стават все по-чести в бъдеще.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!