ИИ излиза извън контрол: Как DeepSeek заплашва световната сигурност?

Чатботът на ИИ-стартъпа DeepSeek, създаден преди по-малко от две години с подкрепата на китайското правителство се изкачи до върха на класацията за безплатни приложения в Apple App Store. В същото време интернет беше залят от разгорещени дебати за бъдещето на изкуствения интелект с отворен код.

Историята познава много примери, когато нови разработки разделят обществото на ентусиазирани поддръжници и яростни критици. Примерите включват таксиметровата услуга Uber, криптовалутата Биткойн на Сатоши Накамото и появата на OpenAI. Всеки път хората първоначално реагираха бурно на промяната, след което технологията стана част от ежедневието и вълненията утихнаха – до появата на следващия противоречив пробив.

Анализаторите правят паралели между възхода на DeepSeek и историята на успеха на други китайски технологични гиганти – Huawei и TikTok. Тези компании бяха смятани за част от стратегията за мека сила на Китай, като Huawei беше обвинена в използване на 5G мрежи за шпиониране на чужди правителства, а TikTok – в масово събиране на потребителски данни.

DeepSeek получи безпрецедентна правителствена подкрепа: на компанията бяха предоставени 50 000 графични процесора Nvidia H100, специално оптимизирани за дълбоко обучение, обучение на невронни мрежи и обработка на огромни масиви от данни. За сравнение: известният GPT-3 на OpenAI работеше с 10-20 000 процесора Nvidia A100. Според Ларс Нийман, маркетинг директор на платформата CUDO, подобна колосална инвестиция в хардуер е истинско „геополитическо изявление“.

САЩ отдавна държат първенството в областта на изкуствения интелект, но появата на DeepSeek със сигурност може да промени баланса на силите.

Китайската компания не само оспорва монопола на САЩ – тя заобикаля санкциите и се стреми да установи нови световни стандарти по отношение на енергийната ефективност и достъпността на технологиите за изкуствен интелект. ИИ-моделът R1 на DeepSeek вече постига резултати на нивото на моделите на OpenAI в областта на математиката, програмирането и логическите разсъждения.

Отвореният код прави технологията достъпна за широк кръг разработчици и компании, но разбира се, съществуват и някои сериозни рискове. Стивън Хол, директор на отдела за изкуствен интелект в изследователската компания ISG предупреждава:

„Отворените ИИ-модели като тези на DeepSeek демократизират достъпа до мощни технологии, но също така създават уязвимости. Въпросът за неприкосновеността на личния живот е много обезпокоителен, особено когато моделите се обучават върху данни, контролирани от правителството – те биха могли да се използват за наблюдение и неразрешено събиране на информация.“

Атакуващите ще могат да променят изходния код, за да създават все по-убедителни фалшификати, да извършват мащабни кибератаки и да крадат данни. Когато няма единен контролен център ще е все по-трудно да се следи как се използват технологиите.

Изследователите предупреждават: престъпниците ще могат да продават откраднати данни в даркнет и да използват фалшиви видеоклипове, за да повлияват на резултатите от изборите. Съществуват и опасения, че измамниците ще възприемат ново поколение рансъмуер, който може перфектно да копира гласовете и външния вид на обикновени хора и представители на големи компании.

В Китай вече е въведена система за социален рейтинг и на този фон новите технологии могат да доближат света до антиутопията на тоталното наблюдение, както в романа „1984“.

Появата на DeepSeek определено ще преобърне пазара на технологиите за изкуствен интелект с главата надолу. Според Ярон Литуин, маркетинг директор в Canopy, американските гиганти ще трябва да намалят цените, за да се конкурират с китайския продукт. Ниската цена обаче не е най-важното за корпоративните клиенти. Те са по-загрижени за сигурността и надеждността на данните, а в тази област китайските решения все още не могат да се конкурират със западните аналози.

Експертите сравняват ситуацията с феномена на бързата мода, при който клиентите често избират евтини дрехи със съмнително качество вместо скъпи, но надеждни продукти. В случая с DeepSeek обаче не става въпрос само за конкуренция по отношение на цената и качеството. Ако компанията успее да предложи по-енергийно ефективни решения и да установи нови стандарти в света на изкуствения интелект, това ще провокира геополитическа конфронтация, сравнима по мащаб с космическата надпревара през XX век.