Китай разработи правила в случай, че изкуственият интелект излезе извън контрол

Разработчиците трябва да осигурят възможност за откриване на опасно поведение на изкуствения интелект, намеса в неговата работа, блокиране на системата и възстановяване на контрола.

Китай постепенно формира система за регулиране на рисковете, свързани с евентуалното излизане на високоразвитите ИИ системи от човешки контрол. Пекин разглежда подобни сценарии не само като теоретична заплаха, а като риск, за който е необходимо предварително да се създадат технически стандарти, процедури за проверка и механизми за държавен надзор.

Според Reuters, през май 2026 г. китайските регулатори официално са определили „загубата на оперативен контрол“ като един от рисковете, свързани с работата на ИИ агентите.

Разработчиците на такива системи са длъжни да предоставят инструменти, които ще позволят своевременно откриване на потенциално опасното поведение, намеса в автономната работа на ИИ, блокиране на неговите действия и възстановяване на контрола над системата.

Сред рисковете са самокопиране и получаване на ресурси

Китайските регулатори започнаха да формулират подход към подобни заплахи още по-рано. През септември 2024 г. рамковите правила за първи път включваха сценарий, при който система с изкуствен интелект може самостоятелно да получи необходимите ѝ ресурси, да създаде свои собствени копия и да се опита да установи контрол над други системи или среда.

През 2025 г. списъкът със съответните сценарии и изисквания беше разширен.

По този начин, китайският подход включва подготовка за потенциално опасно автономно поведение на ИИ на етапа на разработване и тестване на системата. Основният акцент е върху възможността за техническо ограничаване на работата на модела, ако поведението му престане да отговаря на установените параметри.

Регулаторите приемат, че дори рисковете с несигурна вероятност за реализация изискват предварително установени механизми за реагиране, особено с нарастващата автономност на AI агентите.

Китай също проучва военни приложения на автономните системи

Успоредно с това в Китай се разширяват изследванията на възможностите за използване на изкуствен интелект и роботика във военната сфера.

Според Reuters, китайските военни изследователи изучават перспективите за използване на хуманоидни роботи в бъдещите бойни операции. Анализ на повече от 100 военни поръчки, научни статии, патенти, правителствени документи и материали от отбранителни компании показа засилване на съответните изследвания през 2025-2026 г.

Същевременно, подготовката на регулаторните механизми за евентуална загуба на контрол върху ИИ не означава, че подобни сценарии вече са се случили. Става въпрос за превантивно регулиране на потенциалните рискове, които могат да възникнат с развитието на по-автономните и мощни AI системи.

Припомнете си, че ЕС също въвежда нови правила за ChatGPT и други изкуствени интелекти, считано от 2 август. Според новите промени, ИИ cиcтeмитe тpябвa дa инфopмиpaт пoтpeбитeлитe, чe взaимoдeйcтвaт c мaшинa, a cъдъpжaниeтo, cъздaдeнo или знaчитeлнo мoдифициpaнo c ИИ, тpябвa дa бъдe маркирано по cъoтвeтния начин.