Китайската компания DeepSeek, която създаде бюджетен чатбот с висока производителност се оказа в центъра на вниманието поради сериозни проблеми със сигурността на своя ИИ-модел. Въпреки активно нарастващата си популярност, новият чатбот DeepSeek R1 на DeepSeek е показа катастрофални резултати при опитите си да блокира злонамерени заявки.
Изследователите на Cisco са успели да хакнат DеepSeek R1 със 100% успеваемост, като са използвали автоматичен алгоритъм в комбинация с 50 заявки, свързани с киберпрестъпления, дезинформация и незаконна дейност. Чатботът не е успял да отхвърли нито една опасна заявка и е започнал да издава забранени инструкции.
Ако сравним китайския чатбот по отношение на сигурността с неговите конкуренти, статистиката не e в полза на DeepSeek. Така моделът GPT-4o на OpenAI успя да отхвърли 14% от злонамерените заявки, Google Gemini 1.5 Pro – 35%, а Claude 3.5 показа резултат от 64%. Лидер беше предварителната версия на OpenAI o1, която блокира 74% от атаките. Според Cisco причината за това „поведение“ на DeepSeek се крие в ниския бюджет, изразходван за разработката. Компанията твърди, че за създаването на ИИ-модела са похарчени само 6 млн. долара, докато например обучението на GPT-5 е струвало около половин милиард долара.
Въпреки слабата защита срещу атаки, DeepSeek показва строга цензура по политически чувствителни теми, свързани с Китай. Например, когато е запитан за положението на уйгурите, които са преследвани според ООН и за протестиращите на площад Тянанмън през 1989 година, чатботът отговаря: „Съжалявам, но това е извън моите възможности. Нека поговорим за нещо друго.“
Интересно е, че проблемите със сигурността и цензурата все още не са повлияли на популярността на DeepSeek. По данни на Similarweb броят на потребителите на чатботове е нараснал от 300 000 на 6 милиона дневно, а Microsoft и Perplexity вече са започнали да интегрират DeepSeek, който се основава на код с отворен код в своите разработки.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
