Meta AI случайно хакна истински уебсайт по време на тестове

Meta потвърди, че един от нейните ИИ модели случайно е получил достъп до отворения интернет и е хакнал уебсайт на трета страна по време на тестове. Според Gizmodo причината е била неправилна конфигурация на тестовата среда от независимата фирма за киберсигурност Irregular, която е тествала модела Muse Spark 1.1, съобщава Gizmodo.

Meta обясни, че моделът не е трябвало да има достъп до мрежата, но поради грешка е успял да се възползва от реална уязвимост в услугата на трета страна. Компанията не разкрива кой сайт е засегнат и какво точно се е опитвал да направи изкуственият интелект. В момента се води разследване, след което Meta обещава да публикува подробен доклад.

Този случай се оказа подобен на инцидента, който OpenAI описа предния ден. По време на тест за „превземане на флага“, моделът също е получил достъп до реалния интернет поради неправилни настройки. Измисленият домейн съвпаднал със съществуващ уебсайт, което накарало изкуствения интелект да го възприеме като част от тестовата среда и да използва основна уязвимост в сигурността.

OpenAI отбелязва, че след инцидента Irregular незабавно е спряла тестовете, уведомила е всички замесени и е започнала да прилага допълнителни мерки за сигурност. Самата Irregular заяви, че атаката не е оказала сериозни последици и планира да публикува бяла книга със заключения и препоръки в близко бъдеще.

Инцидентът е пореден пример за бързо развиващите се възможности на съвременните ИИ модели в киберсигурността. През последните месеци OpenAI и Anthropic съобщиха за модели, способни автономно да изпълняват сложни хакерски задачи по време на тестване. Ето защо компаниите обръщат все по-голямо внимание на безопасното изолиране на подобни системи и контролирането на условията, при които те се стартират.