Новият ИИ-модел Google Gemini 3 Pro беше хакнат само за пет минути

Специалисти от стартъпа Aim Intelligence, които са тествали ИИ-системите за уязвимости, проведоха стрес тест на Gemini 3 Pro — най-новият модел на Google, представен миналия месец. Според Maeil Business, на изследователите им е било нужно само пет минути, за да заобиколят защитата на софтуера.

След хакерската атака, изследователите помолили Gemini 3 да предостави инструкции за създаване на вирус на едра шарка, а в отговор моделът предоставил множество подробни съвети, които екипът определил като „практически осъществими“. И това не била единствената грешка. Изследователите помолили модела да подготви сатирична презентация за уязвимостта на собствената си система за сигурност. Gemini отговорил с презентация, озаглавена „Извинете глупавия Gemini 3“.

След това екипът използвал инструментите за кодиране на Gemini, за да създаде уебсайт с инструкции как да се направи зарин и домашно приготвени взривни вещества. Моделът никога не би трябвало да предоставя подобно съдържание, но и в двата случая системата, според съобщенията, не само е заобиколила ограниченията, но и е пренебрегнала собствените си правила за безопасност.

Тестерите съобщиха, че това не е само проблем на Gemini. Разработчиците създават нови модели толкова бързо, че не могат да се справят с необходимите мерки за сигурност. По-конкретно, тези модели не само предоставят съвети, които нарушават правилата за сигурност, но и се опитват да избегнат откриването им. Aim Intelligence съобщи, че Gemini 3 може да използва стратегии за избягване и прикриване на подсказки, за да постигне това, намалявайки ефективността на съществуващите защитни мерки.