OpenAI тихомълком вдигна забраната за използването на ChatGPT за военни цели

Без да привлича особено внимание OpenAI се отказа от пълната забрана за военно използване на своите технологии, включващи изключително популярния чатбот с изкуствен интелект ChatGPT. До 10 януари политиката на OpenAI забраняваше „дейности, свързани с висок риск от физическа вреда“, включително „разработване на оръжия“ и „военни дейности“. Новата формулировка запазва забраната за използване на OpenAI за нанасяне на вреда и посочва като пример разработването или използването на оръжия, но пълната забрана за военна употреба отпада.

Тази некласифицирана редакция е част от мащабна промяна на страницата с политиката за използване, която според компанията има за цел да направи документа „по-ясен и по-четим“ и включва много други значителни промени. Действителното въздействие на промяната в политиката не е ясно. Миналата година OpenAI вече отказа да отговори на въпроса дали ще прилага собствената си ясна забрана за военни действия в условията на нарастващ интерес от страна на Пентагона и разузнавателната общност на САЩ.

„OpenAI е наясно с рисковете и вредите, които биха могли да произтекат от военното използване на техните технологии и услуги.“

казва Хайди Хлааф, експерт по машинно обучение и сигурност на автономните системи

Според нея новата политика поставя законността пред сигурността: „Има ясна разлика между двете политики: първата ясно посочва, че разработването на оръжия, както и военните действия и войната са забранени, докато втората набляга на гъвкавостта и спазването на закона“.

„Като се има предвид използването на системи с ИИ за нападения срещу цивилни в ивицата Газа, забележителен момент е решението да се премахнат думите „военни действия“ от Политиката за приемлива употреба на OpenAI.“

заяви директорът на института AI Now Сара Майерс Уест

Формулировката на политиката остава неясна и повдига въпроси за това как OpenAI възнамерява да подходи към нейното прилагане.

Макар, че днес ИИ не може да се използва за пряко насилие и убийства, има безброй свързани задачи, които ИИ изпълнява за военните. Американската армия вече използва технологията на OpenAI за ускоряване на работата с документи. Националната агенция за геопространствено разузнаване, която пряко подпомага САЩ в бойните операции открито заявява използването на ChatGPT от своите анализатори. Дори ако инструментите на OpenAI във военните агенции се използват за задачи, които не са свързани с пряко насилие, те все пак косвено подпомагат войната и убийствата на хора.

Военните по целия свят се стремят да прилагат техники за машинно обучение, за да спечелят предимство. Въпреки, че резултатите от големите езикови модели изглеждат изключително убедително, те често страдат от т.нар. халюцинации, които поставят под въпрос точността на резултатите и дали те отговарят на действителността. Въпреки това способността на големите езикови модели бързо да поглъщат текст и да извършват анализ прави използването на изкуствен интелект естествен избор за и без това претовареното с данни Министерство на отбраната на САЩ.