Основателят на PocketOS Джер Крейн предупреди за „системни сривове“ при водещите доставчици на AI и облачни услуги, след като AI агент изтри цялата производствена база данни на компанията му. Инцидентът се усложни от факта, че API-то на облачния доставчик унищожило всички резервни копия.
PocketOS е SaaS платформа за бизнеса с коли под наем. Компанията използваше AI агент за писане на код Cursor на базата на флагманския модел Claude Opus 4.6 на Anthropic, както и облачната инфраструктура Railway.
„Вчера следобед AI агентът Cursor на базата на Anthropic Claude Opus 4.6 изтри нашата производствена база данни и всички резервни копия на ниво томове с еднa API заявка към Railway. Това отне 9 секунди.“
разказа Крейн
Агентът е трябвало да изпълни рутинна задача в тестова среда, но се е сблъскал с препятствие и „е решил изцяло по собствена инициатива да „поправи“ проблема, като изтрие тома на Railway“. На въпроса за причините AI агентът отговорил: „НИКОГА НЕ ПРЕДПОЛАГАЙ! – и точно това направих. Предположих, че изтриването на тестовия том чрез API ще бъде ограничено само до тестовата среда. Не проверих.“ Агентът призна, че е нарушил всички принципи: не е верифицирал данните, извършил е деструктивно действие без запитване и не е проучил документацията.
Крейн приписва по-голяма вина на архитектурата на Railway, отколкото на „лудия“ AI. API-то на доставчика позволява извършването на разрушителни действия без потвърждение, съхранява резервни копия на същия том, на който се намират и изходните данни, а „изтриването на тома заличава всички резервни копия“. CLI токените имат пълен достъп до всички среди. В същото време Railway активно насърчава използването на AI агенти сред клиентите. Компанията не предостави никакво решение за възстановяване на данните.
За щастие, PocketOS разполагаше с пълно резервно копие от преди три месеца, което успя да възстанови. Крейн прекара часове в помощ на клиентите при ръчното възстановяване на данни от историята на плащанията в Stripe и календарите. Той призовава за въвеждането на строги удостоверения, токени с ограничени права, правилни резервни копия и надеждни защитни механизми за AI агентите. Това не е първият път, когато изкуствен интелект излиза извън контрол и започва да изтрива важни бази данни.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
