Шефът на OpenAI призна, че сделката с Пентагона не е била добре обмислена – компанията ще внесе промени, за да защити хората от следене

Малко след като Пентагонът отказа да използва AI моделите на Anthropic поради съпротивата на ръководството на компанията да предостави на агенцията пълна свобода да ги използва, съответната сделка беше сключена с конкурентната OpenAI. Ръководителят на последната, Сам Алтман признава, че при тези обстоятелства този ход не е бил добре обмислен.

Припомняме, че преди сделката Алтман изрази солидарност с позицията на бившия си сътрудник Дарио Амодей, който сега оглавява Anthropic. Въпреки това, веднага след като военното министерство на САЩ отхвърли услугите на последната и започна да търси алтернатива, която да внедри в тайната си инфраструктура, сделката с OpenAI беше сключена набързо и при не най-прозрачни условия. След сключването на договора с Пентагона Алтман заяви, че интересите на правителството стоят над принципите на която и да е частна компания. В края на миналата седмица Алтман настоя, че първоначалната версия на споразумението на OpenAI с Пентагона е предполагала повече ограничения от всички предишни употреби на AI в секретни системи, включително и от сделката с Anthropic.

В понеделник Алтман заяви, че споразумението с Пентагона не е трябвало да се сключва толкова набързо и че условията му ще бъдат преразгледани, като ще бъдат направени промени.

Той отбеляза, че в текста на споразумението е трябвало изрично да се посочи, че „системата с изкуствен интелект не трябва да се използва умишлено за наблюдение на американски граждани и жители на територията на САЩ“. Както подчерта Алтман, военното министерство разбира, че съществуват такъв вид ограничения за използването на AI, дори ако данните на гражданите са получени от трета страна. В текста на споразумението ще бъдат направени съответните редакции.

OpenAI е успяла да получи и уверения от военното министерство на САЩ, че инструментите на компанията няма да бъдат използвани от разузнавателни агенции като Агенцията за национална сигурност (NSA). По думите му компанията е готова да работи с Пентагона за създаване на технически ограничения, за да се гарантира, че AI може да се използва безопасно. Той обясни бързината на сключването на сделката в петък с желанието да се намали степента на ескалация и да се избегне много по-лош изход, но разбира, че отвън всичко изглеждало „неясно“. Още в петък шефът на OpenAI заяви, че Пентагонът се е съгласил с ограниченията за използване на технологията, предложена от компанията. Общественото недоволство от действията на OpenAI вече накара хората да започнат да изоставят ChatGPT в полза на решенията на Anthropic. Последната набляга на безопасното използване на AI още от основаването си през 2021 година.

Условията на споразумението на OpenAI с Пентагона бяха преразгледани, не на последно място поради обществения натиск. Дори служителите на компанията започнаха да изразяват недоволство от първоначалния вариант на сделката.

Миналия уикенд пред централата на OpenAI в Сан Франциско се появи надпис с тебешир „Без масово наблюдение!“. Aлтман добави, че текстът на споразумението с Anthropic е включвал ясно формулирани ограничения, но не е съдържал препратки към съответното законодателство, докато самата OpenAI не е виждала проблем в предоставянето на такива препратки.

OpenAI потвърждава, че може да ограничи използването на технологията си за масово наблюдение на граждани на САЩ и за контрол на оръжия, предназначени за автоматично избиране и унищожаване на цели. Компанията е разрешила на Пентагона да прилага AI нейните модели само в облачната част на инфраструктурата, като служителите ѝ запазват достъп до нея, но не и върху крайния военен хардуер, използван за контрол на оръжията.