OpenAI продължава да губи служители – те смятат, че ИИ може да бъде опасен за човечеството

Бившият служител на OpenAI Гретхен Крюгер обяви, че е напуснала компанията на 14 май поради опасения, че изкуственият интелект, разработван от OpenAI може да представлява заплаха за човечеството. Тя взела това „трудно решение“ малко преди Иля Суцкевер и Ян Лейке да обявят напускането си.

„Подадох оставка часове преди да чуя новината за Иля Суцкевер и Ян Лейке и взех решението си самостоятелно. Споделям техните опасения. Имам и други и припокриващи се притеснения.“

написа Крюгер в социалната мрежа X

Тя заяви, че компанията трябва да свърши много работа за подобряване на „процесите на вземане на решения, отчетността, прозрачността; документацията; прилагането на политиките, предпазливостта при използването на нашите патентовани технологии и намаляване на въздействието върху неравенството, правата и околната среда“.

Крюгер, която е работила като специалист по развитие на изследователската политика в OpenAI заяви, че тези опасения се споделят от обществеността. Те „могат да повлияят на това как и от кого могат да бъдат определени аспектите на бъдещето“ и тези опасения не трябва да бъдат „разбирани погрешно като тесни, спекулативни или неуместни“ за създаването и функционирането на ИИ.

„Един от начините, по които технологичните компании могат да обезоръжат онези, които се опитват да им потърсят сметка, е да сеят разделение сред онези, които изразяват загриженост или оспорват тяхното господство. Изключително съм загрижена да предотвратя това.“

отбеляза Крюгер

Главният учен и съосновател на OpenAI Иля Суцкевер и главният изпълнителен директор Ян Лейке, които напуснаха миналата седмица, ръководеха подразделението Superalignment на компанията, което разработваше мерки за сигурност, за да предотврати излизането на изкуствения общ интелект (AGI) извън контрол. Според Лейке компанията е поставяла „лъскави продукти“ пред мерките за сигурност. Superalignment се е борила за ресурси и е било все по-трудно да върши работата си.