По-евтиното не значи по-добро: Как уязвимостите на DeepSeek подкопават доверието в ИИ

DeepSeek разтърси Силициевата долина като демонстрира, че мощни ИИ-модели могат да бъдат създадени на минимална цена. Зад този успех обаче се крие сериозен проблем – уязвимост към хакерски атаки и манипулации.

Неотдавнашни проучвания показаха, че ИИ-моделите на DeepSeek са по-податливи на атаки, отколкото решенията на основните конкуренти като OpenAI, Google и Microsoft. Това поставя под въпрос концепцията за „демократизация“ на ИИ, тъй като индустриалните гиганти харчат милиарди не само за представянето на ИИ-моделите, но и за тяхната защита. Компаниите, които планират да внедрят DeepSeek в своите бизнес процеси трябва да вземат предвид тези рискове.

Изследователите от LatticeFlow AI, които са специализирани в тестването на съответствието на ИИ-моделите със законодателството в областта на сигурността установиха, че версиите R1 на DeepSeek са най-уязвими сред водещите модели.

Модификациите на решения с отворен код от Meta (Llama) и Alibaba (Qwen) нарушават вградените механизми за сигурност. В резултат на това ИИ-моделите на DeepSeek са податливи на „отвличане на цели“ и изтичане на заявки, което позволява на хакерите да принудят изкуствения интелект да предоставя забранена информация или да пренебрегват вградените ограничения.

„Ако компаниите свържат изкуствен интелект към своите системи, те обикновено добавят свои собствени инструкции, като например скриване на финансови и други чувствителни данни. ИИ-моделите на DeepSeek обаче може да не спазват тези ограничения при злонамерена атака, което позволява на хакерите да получат достъп до чувствителна информация.“

предупреждава Петър Цанков, главен изпълнителен директор на LatticeFlow AI

Други експерти също откриват уязвимости. Според Adversa AI ИИ-моделите на DeepSeek могат да бъдат лесно хакнати чрез джейлбрейк – те могат да бъдат накарани да издават инструкции за изработване на оръжия или хакване на автомобили. Междувременно OpenAI и Anthropic отдавна са засилили защитите на своите продукти, докато новакът DeepSeek засега остава изключително уязвим.

Въпреки атрактивната си цена, използването на DeepSeek изисква допълнителни мерки за сигурност. Компаниите могат или да преквалифицират ИИ-модела, което струва стотици хиляди долари, или да въведат строги филтри, за да блокират изтичането на данни. Последният вариант е по-евтин, но също изисква инвестиции.

Проблемът със сигурността на ИИ-моделите възпрепятства масовото им внедряване. Според Evident Insights, въпреки интензивното използване на генеративен ИИ в 50-те най-големи банки, по-малко от една четвърт от тях са успели да извлекат реални ползи под формата на икономии на разходи или ръст на приходите. Опасенията за сигурността остават ключов фактор, който възпрепятства растежа на индустрията.

DeepSeek доказа, че изкуственият интелект може да бъде разработван по-евтино, но евтино не винаги означава качествено. Сигурността изисква сериозни инвестиции и именно тук засега печелят технологичните гиганти. В условията на открита конкуренция бизнесът получава точно това, за което плаща.