Неизвестен нападател е използвал чатбота с изкуствен интелект Claude на Anthropic, за да атакува мексикански правителствени агенции и в крайна сметка да открадне около 150GB данни. Според разследването в мрежата е можело да изтече данъчна информация, идентификационни данни на служители и друга официална информация. За инцидента съобщи информационна агенция Bloobmerg.
По данни на компанията за киберсигурност Gambit Security атаките са започнали през декември и са продължили около месец. Хакерът е използвал Claude, за да търси уязвимости в правителствените мрежи, да пише скриптове за използването им и да обмисля автоматизацията на кражбата на данни.
Първоначално чатботът отказвал да изпълнява злонамерени заявки, но нападателят успял да заобиколи вградените ограничения, като използвал специални формулировки. В резултат на това Claude изготвил хиляди подробни доклади с готови за изпълнение планове. Те са включвали конкретни вътрешни цели и удостоверения, които си е струвало да бъдат използвани за по-нататъшно развитие на атаката.
Anthropic заяви, че е проверила информацията, спряла е дейността и е блокирала всички свързани акаунти. Говорител добави, че новият Claude Opus 4.6 е получил допълнителни инструменти, които трябва да предотвратят подобни злоупотреби.
Твърди се, че успоредно с това хакерът е използвал и ChatGPT на OpenAI, за да събере информация за това как да навигира в компютърните мрежи, какви пълномощия са необходими за достъп до системите и как да намали риска от откриване. От OpenAI твърдят, че са открили опити за нарушаване на правилата за използване на услугата и инструментите са отказали да изпълнят такива заявки.
Самоличността на нападателя все още не е установена. Атаките не са свързани с конкретна група, но от Gambit Security допуснаха, че зад тях може да стои чужда държава. Все още не е ясно за какво планират да използват откраднатите данни.
Националната агенция по цифрови технологии на Мексико не е коментирала публично инцидента, като се е ограничила с изявление за приоритета на киберсигурността. По време на собствения си анализ специалистите от Gambit Security откриват поне 20 уязвимости в AI системите, които не са оповестени публично. Това не е първият случай, в който Claude участва в големи атаки. Миналата година хакери от Китай успяха да въвлекат системата в опити за проникване в десетки цели по света, като някои от тях бяха успешни.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
