OpenAI актуализира своите основни принципи – ето какво се е променило

OpenAI публикува на своя уебсайт актуализирана версия на документа, в който са формулирани основните принципи на нейната дейност. В момента компанията фактически утвърждава вече осъщественото – превръщането ѝ от изследователска нестопанска организация в търговско дружество.

Във версията от 2018 година меморандумът звучеше като поети от OpenAI ангажименти към обществото: компанията се стремеше да бъде в авангарда на индустрията за изкуствен интелект, за да има възможност да контролира „изкуствения общ интелект“ (AGI), който ще може да се сравни с човешките способности. Сега компанията споменава AGI само два пъти, не обещава да се откаже от конкуренцията с която и да е друга лаборатория, която първа разработи AI с такава мощност, като по същество поставя собствените си търговски интереси над идеята за „AGI за всички“. Освен това OpenAI поема ангажимент да дава указания на цялата индустрия на AI: решенията в нея трябва да се вземат демократично, а държавите трябва да участват в изграждането на инфраструктура за поевтиняване на AI, за да направят технологията по-достъпна.

Първият принцип на OpenAI е демократизацията. Компанията се ангажира да се противопостави на консолидирането на най-модерните възможности на AI в ръцете на малцина. Освен използването на предимствата на AI, това означава, че ключовите решения за по-нататъшното развитие на технологията трябва да се вземат от обществото като цяло, а не само от разработчиците на технологията.

Вторият принцип – разширяване на възможностите. Компанията изразява увереност, че AI дава на човека възможност да постига различни цели, както в работата, така и в учението и се стреми да създава продукти, които ще осигуряват все по-големи възможности. OpenAI поема отговорността решенията ѝ да причиняват възможно най-малко вреда на човечеството, но и се ангажира да отслабва ограниченията, когато няма заплаха.

Третият принцип е всеобщото благо. С разширяването на възможностите на AI ще се променя и светът около нас. Властите вероятно ще трябва да разгледат нови икономически модели, отразяващи реалностите на този свят, а разработчиците ще се нуждаят от достатъчно мощна инфраструктура за работата на AI системите: в частност, инвеститорите и обществото като цяло ще трябва да проявят разбиране към факта, че се закупуват колосални обеми изчислителни данни при относително скромни приходи.

Четвъртият принцип е устойчивостта. AI става все по-мощен, възникват нови заплахи и OpenAI възнамерява да сътрудничи с колеги и властите за тяхното разрешаване. Това се отнася особено за биологичните и киберзаплахите, които AI вече днес е способен да създава – трябва да се появят и симетрични средства за защита от тях. Въпреки това, създаването на средства за защита не е единствената стратегия: разработчиците трябва да създават безопасни системи на ниво архитектура.

И накрая, петият принцип – адаптивност. Компанията счита, че в условията на непредсказуемо бъдеще тя трябва да бъде готова да се променя, да актуализира своите принципи с натрупването на нови знания, както и да осигурява прозрачност по отношение на промените в тези принципи.

„Не винаги ще правим всичко идеално, но ще се учим бързо и ще коригираме курса.“

обещаха от OpenAI