OpenAI почисти ChatGPT от предполагаеми злонамерени акаунти от Китай и Северна Корея

OpenAI спря акаунтите на потребители от Китай и Северна Корея, за които се твърди, че са използвали технологията на компанията за злонамерени цели, включително и кампании за наблюдение и влияние върху общественото мнение. OpenAI заяви в изявление, че авторитарните режими могат да използват изкуствен интелект, за да навредят на Съединените щати и собствените си граждани. Отбелязва се, че е използван специален AI-алгоритъм за идентифициране на подозрителна активност.

Компанията не казва колко акаунта са били блокирани или колко време е търсила акаунтите, чиито собственици са потенциално ангажирани в злонамерена дейност. В изявлението се казва, че в един такъв случай потребител на ChatGPT е генерирал новинарски статии на испански с цел очерняне на Съединените щати. Впоследствие тези материали са били публикувани от новинарски издания в Латинска Америка от името на китайската компания.

Във втория случай нападателите с предполагаеми връзки със Северна Корея са използвали изкуствения интелект, за да създадат автобиографии и онлайн-профили на фиктивни търсещи работа хора, за да им осигурят работа в западни компании. Идентифицирани са и група акаунти, принадлежащи на потребители от Камбоджа, които са свързани с финансови измами. Използвани са за превод и публикуване на коментари в различни социални мрежи, включително X и Facebook.

Правителството на САЩ изрази загриженост относно твърденията, че Китай използва изкуствен интелект, за да контролира общественото мнение в страната, както и да разпространява дезинформация и да подкопава сигурността на САЩ и техните съюзници. Като напомняне, ChatGPT на OpenAI е най-популярният AI-бот с 400 милиона активни потребители седмично. Компанията води преговори за набиране на до 40 милиарда долара при оценка от 300 милиарда долара за OpenAI, което би било рекорден кръг на финансиране за частна компания.