В действителност, OpenAI е отстъпил на Пентагона по въпросите с използването на ИИ за наблюдение и във военните цели

OpenAI подписа споразумение с Пентагона за използване на нейните системи за изкуствен интелект, замествайки Anthropic, която имаше сериозни съмнения относно морала на подобно сътрудничество. В отговор на обществените опасения, главният изпълнителен директор на OpenAI Сам Алтман обяви, че компанията е договорила успешно нови условия с Министерството на отбраната на САЩ, но това не е напълно вярно, според The ​​Verge.

„Два от най-важните ни принципи за сигурност са забраната за масово наблюдение в страната и човешката отговорност за употребата на сила, включително с автономни оръжейни системи. Министерството на отбраната се съгласи с тези принципи, отразявайки ги в закони и политики, и ние ги включихме в нашето споразумение“ —- подчерта Алтман. В социалните медии обаче бяха изразени съмнения относно успешното споразумение на OpenAI с Пентагона относно спазването на тези ограничения. Експертите смятат, че Министерството на отбраната всъщност не се е предало, а сделката с OpenAI предлага по-леки условия за агенцията —- всичко се свежда до формулировката „всяка законна употреба“.

По време на преговорите, източник, запознат с въпроса, каза пред изданието, че Пентагонът е останал ангажиран със събирането и анализа на големи обеми от данни, свързани с американските граждани; OpenAI обаче отвори вратата на военните за всякакви действия, които са технически законни. През последните десетилетия американските власти значително разшириха определението си за „технически законно“ и това определение вече включва програми за масово наблюдение. OpenAI обаче отхвърли това тълкуване. „Системата не може да се използва за събиране или анализ на американски данни в големи обеми, за неопределено време или в обобщена форма“ —- заяви говорителят на компанията.

Ключова сила на ИИ-системите е способността им да откриват модели, а човешкото поведение е именно това —- набор от модели. Изкуственият интелект може да комбинира източници на данни за всеки индивид: информация за местоположение, данни за сърфиране в интернет, лична финансова информация, записи от наблюдение, данни за регистрация на избиратели и много други —- някои от които са публично достъпни, докато други се закупуват от брокери на данни. Anthropic се стреми да забрани тези действия, независимо от техния правен статут, докато OpenAI се ограничава до съществуващите законови ограничения. По-конкретно, те цитират Четвъртата поправка на Конституцията на САЩ —- Закона за националната сигурност от 1947 г., Закона за външното разузнаване и наблюдение от 1978 г., Изпълнителна заповед 12333 и директиви на агенциите, очертаващи специфични цели на външното разузнаване.

След терористичните атаки от 11 септември 2001 г. американските разузнавателни агенции засилиха системата си за наблюдение, като същевременно я запазиха, според тях, в рамките на действащото законодателство. През 2013 г. изпълнителят на Агенцията за национална сигурност Едуард Сноудън разкри истинския мащаб на това наблюдение: записването на телефонни разговори на Verizon и събирането на лични данни от технологични компании, включително Microsoft, Google и Apple. Експертите отбелязват, че Изпълнителна заповед 12333 позволява на разузнавателните агенции да прихващат данни извън Съединените щати, дори ако тези данни съдържат информация за американски граждани.

Главният изпълнителен директор на Anthropic, Дарио Амодей, отбеляза, че законът все още не обхваща всички възможности на ИИ за масово наблюдение. Алтман от своя страна подчерта, че договорът на OpenAI с Пентагона е ограничен от действащото законодателство, което означава, че ако в САЩ влязат в сила нови разпоредби, формулировката на споразумението ще остане непроменена. Експертите обаче посочват, че формулировката, използвана от представителя на компанията, не позволява да се определи какво точно е забранено в споразумението. „Използването на думи като „неограничен“, „общ“ и „отворен“ не е обща забрана. Тази формулировка има за цел да даде на ръководството свобода на действие. Тя също така не позволява на ръководството да лъже служителите, ако Пентагонът законно използва големи езикови модели без знанието на ръководството на OpenAI“ — казват експертите. Споразумението с OpenAI и съществуващите законови ограничения позволяват на Пентагона например да търси информация за американци в бази данни за чуждестранно разузнаване, да закупува бази данни от брокери на данни и да създава профили на граждани въз основа на типичното им поведение, използвайки записи от видеонаблюдение, публикации в социалните медии, онлайн новини, данни за регистрация на избиратели и други източници.

Позицията на OpenAI относно смъртоносните автономни оръжия също поражда опасения. Договорът на компанията с Пентагона постановява, че нейният изкуствен интелект „няма да се използва за независим контрол на автономни оръжия, когато законът, разпоредбите или политиката на Министерството изискват човешки контрол“, което е в съответствие с директива на Пентагона от 2023 г., но не предполага други забрани или ограничения. За сравнение, Anthropic се стреми към пълна забрана на неконтролираните смъртоносни автономни оръжия, поне докато разработчикът не сметне технологията за работеща.

Алтман посочва и други решения, които биха могли да гарантират, че Пентагонът няма да злоупотребява с ИИ-моделите на OpenAI. Някои служители на компанията ще получат достъп до класифицирана информация за одит на системите; ще бъдат внедрени „класификатори“ —- малки AI-модели, способни да наблюдават по-големи модели и да блокират определени операции, ако е необходимо. На практика тези мерки може да не са ефективни. Класификаторът няма да може да потвърди дали човек е прегледал решението на системата за започване на удар или дали искането за профилиране на американските гражданин е еднократно или част от система за масово наблюдение. И ако властите обявят дадена операция за законна, класификаторът няма да може да я предотврати.

OpenAI се застъпва за „човешката отговорност за употребата на сила, включително в случай на автономни оръжейни системи“, докато Anthropic настоява тези системи изобщо да не се разполагат „без подходящ [човешки] надзор“. Това може да означава, че в сценария на OpenAI, дадено лице може да бъде подведено под отговорност след факта, докато сценарият на Anthropic включва човешка намеса преди и/или по време на решението на ИИ да убива други хора. OpenAI твърди, че технически защитава системите си от възможността за изграждане на „роботи убийци“, като използва допълнителни инструменти за обучение на ИИ и изпълнява модели само в облачна инфраструктура, а не локално на устройства. В случай на масово наблюдение обаче, само модел, съвместим с облака, би бил подходящ; в сценария с автономните оръжия, действителното решение за атака може да бъде взето от локален модел на трета страна, докато системата на OpenAI би обработила всички предходни стъпки.

„Напълно автономните оръжия (тези, които напълно елиминират човешкото участие в автоматичното избиране и атакуване на цели) биха могли да се окажат критични за националната ни отбрана. Но днешните усъвършенствани ИИ-системи просто не са достатъчно надеждни, за да ги поддържат“ —- предупреди изпълнителният директор на Anthropic, Дарио Амодей.