Ръководителят на OpenAI каза, че частните компании не могат да имат повече власт от правителството на САЩ

В петък вечерта Сам Алтман обяви, че неговата компания OpenAI е подписала договор с Пентагона за интегриране на ИИ-технологии в класифицираните системи на агенцията. За да разсее обществените страхове и съмнения относно условията на договора, Алтман проведе сесия с въпроси и отговори, в която заяви върховенството на демократично избраното правителство над принципите на всяка частна компания.

Припомняме, че опитите на Пентагона да интегрира изкуствения интелект на Anthropic в своите класифицирани системи без ограничения за използването му срещнаха протест от страна на разработчиците. В резултат на това договорът за 200 милиона долара беше прекратен, а самата Anthropic беше поставена в списък с ненадеждни доставчици. На всички правителствени агенции на САЩ беше забранено да използват нейните разработки и те трябва да намерят заместител на услугите на Anthropic в рамките на шест месеца.

Алтман, в социалната мрежа X, съобщи, че сделката между OpenAI и Пентагона е била сключена много бързо, за да се деескалира ситуацията; при нормални обстоятелства преговорите щяха да отнемат повече време. Той призна, че ако сделката с OpenAI помогне за облекчаване на напрежението между Министерството на отбраната на САЩ и представителите на индустрията, това ще окаже положително въздействие върху имиджа на компанията. Ако обаче това напрежение не успее да се разреши, заяви Алтман, OpenAI ще бъде обвинена в небрежност и прибързаност при сключването на сделката. Засега обаче той вижда повече положителни знаци за OpenAI в тази област.

Обяснявайки защо OpenAI е била избрана за изпълнител от американските военни пред Anthropic, Алтман предположи, че двете страни са постигнали споразумение по-бързо относно „договорния език“, отколкото с конкурент. Главният изпълнителен директор на OpenAI предположи, че Anthropic се опитва да поддържа по-голям оперативен контрол върху използването на нейните разработки от Пентагона, отколкото неговата компания.

Говорейки за така наречените „червени линии“, Алтман посочи три ключови принципа, към които OpenAI е готова да се придържа по отношение на етичното използване на ИИ от своите клиенти. От друга страна, както отбелязва главният изпълнителен директор на компанията, тя е готова да преразгледа тези принципи с напредването на технологиите, но при определени обстоятелства могат да се появят още „червени линии“. „За нас е добре, ако ChatGPT се опитва да отговори на този или онзи спорен въпрос. Но наистина не бих искал ние да решаваме какво да правим, ако ядрена бомба бъде насочена към Съединените щати“ — обясни Алтман позицията на OpenAI. Той добави, че страната се управлява от демократично избрани лидери и би било странно частна компания да решава кое е и кое не е етично в най-чувствителните области.

Според Алтман, преговорите между OpenAI и Пентагона относно използването на свързаните с изкуствен интелект услуги на компанията в несекретните бизнес процеси на ведомството се водят от много месеци, но едва наскоро те засегнаха областта на класифицираните операции. В преговорите си с Министерството на отбраната на САЩ, подчертава Алтман, OpenAI се е стремила да осигури равни условия за взаимодействието на ведомството с всички участници на пазара. Ръководителят на компанията обясни, че Anthropic в тази ситуация е в неблагоприятна позиция, тъй като първо обяснява на правителството, че има определени рискове в международния сектор на изкуствения интелект, а след това отказва да му съдейства, обвинявайки го в различни грехове. Алтман смята, че реакцията на правителството на САЩ в тази ситуация е разбираема. Той твърди, че ръководителите на частни компании не трябва да имат същата власт като избраните длъжностни лица, но могат да им съдействат.

Ръководителят на OpenAI посочи два примера за използването на изкуствен интелект в националната сигурност, които демонстрират ползите му в реалния свят. Първо, изкуственият интелект може да се използва за защита срещу масови хакерски атаки. Второ, биосигурността може да се превърне в тестова площадка за ИИ-приложенията, които биха могли да помогнат за предотвратяване на нова пандемия, например.