Китай реши, че изкуственият интелект е способен да „подкопае държавната власт и да свали социалистическата система“

Въпреки че китайското правителство счита технологията на изкуствен интелект за ключова относно бъдещето на страната, регулациите и скорошните прочиствания на онлайн-съдържанието подчертават опасенията, че изкуственият интелект може да дестабилизира обществото.

През ноември Пекин официално одобри правила, разработени съвместно с ИИ-компании, за да се гарантира, че чатботовете са обучени да използват данни, филтрирани за политически чувствително съдържание. Всички генерирани от изкуствен интелект текстове, видеоклипове и изображения трябва да бъдат етикетирани и наблюдавани, което ще улесни борбата срещу разпространителите на нежелано съдържание.

Китай официално класифицира изкуствения интелект като сериозна потенциална заплаха, наравно със земетресенията и епидемиите, в своя Национален план за реагиране при извънредни ситуации. По-рано тази година Си Дзинпин заяви, че изкуственият интелект представлява „безпрецедентни рискове“. Наскоро беше съобщено, че 960 000 публикации са били премахнати като част от кампания за борба с разпространението на незаконно или вредно съдържание, свързано с изкуствен интелект.

Китайските AI-модели се представят добре в международните класации, както като цяло, така и в специфичните области като програмирането, въпреки че някои отговори са цензурирани. Експертите казват, че регулаторният подход на Китай има някои предимства: китайските чатботове често са по-безопасни по някои стандарти, съдържат по-малко насилие и порнография и е по-малко вероятно да насърчават потребителите към самонараняване.

Съгласно ИИ-стандартите, приети в Китай миналия месец, тестерите на ИИ компаниите трябва да оценят на случаен принцип 4000 точки от данните за обучение за всеки формат на съдържание, който техният изкуствен интелект може да обработва, като например текст, видео и изображения.

Компаниите могат да използват източник, в който поне 96% от материала се счита за безопасен. За да се определи какво представлява „опасно“, документът идентифицира 31 риска. Основният риск е свързан с „подбуждане към подриване на държавната власт и сваляне на социалистическата система“. Рискови се считат и източниците, насърчаващи насилие, невярна информация или дискриминация, както и съдържание, използващо нечие изображение без разрешение.

Когато обучават ИИ-модели, китайските разработчици използват както съдържание от китайския интернет, което вече е цензурирано от „Голямата защитна стена“, така и материали от чуждестранни уебсайтове, които могат да засягат забранени теми.

Разработчиците на водещия китайски модел ChatGLM казват, че понякога компаниите решават този проблем, като филтрират чувствителните ключови думи и уеб-страници според предварително дефиниран черен списък.

Но когато американски изследователи изтеглили и пуснали китайските модели на американски компютри, цензурата до голяма степен изчезнала. Това предполага, че по-голямата част от цензурата се случва по-късно, след като моделите са били обучени.

Преди публичното пускане на модела, китайските компании провеждат тестове, при които чатботът трябва да откаже да отговори на поне 95% от въпросите, предназначени да провокират реакции, водещи до подриване на държавната власт или дискриминация.

Тестът се състои от 2000 въпроса, които се актуализират поне веднъж месечно. Подготовката за теста е толкова сложна, че е породила цяла индустрия от специализирани агенции, които помагат на ИИ-компаниите да го преминат. След преминаване на теста, чатботовете преминават през бързо тестване в местните офиси на Китайската киберпространствена администрация.

Струва си да се отбележи, че потребителите на ИИ-услуги трябва да се регистрират, използвайки телефонен номер или идентификационен номер, което елиминира анонимността. Следователно, идентифицирането на нарушителите на правилата е много лесно.

През август китайското правителство стартира програмата „AI Plus“, която има за цел да използва технологии с изкуствен интелект в 70% от ключовите сектори до 2027 г. През септември правителството публикува пътна карта за изкуствен интелект, разработена с участието на технологични гиганти като Alibaba и Huawei, демонстрирайки увереността на страната в партньорството с ИИ-индустрията, според livemint.