OpenAI сформира нов екип, който да контролира създаването на „свръхинтелигентни“ системи с изкуствен интелект

OpenAI, компанията, която започна надпреварата в областта на изкуствения интелект, представяйки изключително ефективния чатбот ChatGPT е сформирала специален екип за управление и контрол на „свръхинтелигентни“ системи с изкуствен интелект, според последни доклади. Негов ръководител е съоснователят и главен учен в компанията Иля Суцкевер.

Според публикация в блога на OpenAI, ИИ, който надминава човешкия интелект, може да се появи до десетилетие. Тeзи „свръхинтелигентни“ системи обаче няма да бъдат непременно добронамерени към човечеството, затова трябва да се търсят начини за контрол и ограничаване на възможностите на такива системи.

Според OpenAI, днес няма решения за ефективен контрол и управление на свръхинтелигентен ИИ и за предотвратяване на „агресия“ от негова страна.

Специален екип ще има достъп до 20% от изчислителната мощ на компанията, за да проучи проблема. Към тях ще се присъединят учени и програмисти от отдела за настройка на изкуствения интелект на компанията и от други отдели, като екипът ще се занимава с основните технически предизвикателства, свързани с контрола на свръхинтелигентния изкуствен интелект, през следващите 4 години.

Всъщност става въпрос за обучение на ИИ с помощта на обратна връзка. Това ще включва използването на специален изкуствен интелект, предназначен да оценява други системи с ИИ и да осигурява желаните резултати, както и да гарантира тяхната безопасна работа. OpenAI вярва, че изкуственият интелект ще прави това по-добре и по-бързо от хората. С развитието на системите с ИИ компаниите вероятно ще поемат все повече задачи и в резултат на това ще създадат и внедрят по-добри технологии за персонализация от наличните в момента. Те ще работят съвместно с хората, за да направят своите наследници по-подходящи за нуждите на хората, и ще осигуряват само надзор, без да участват пряко в изследванията.

Разбира се, нито един метод не е напълно защитен от грешки, както заявиха от OpenAI. Използването на един ИИ за оценка на друг ИИ може да доведе до повече грешки и уязвимости и като цяло може да разкрие, че най-трудната част от настройката може да бъде справянето с най-неочакваните аспекти на работата на ИИ.

Според Reuters, противниците на инициативата смятат, че ИИ с мислене на нивото на човешкото може да излезе извън контрол още преди да се стигне до обезопасяване на други системи с ИИ. През април членове на експертната и бизнес общност публикуваха отворено писмо, в което предупреждават да не се създава ИИ, който е по-напреднал от GPT-4 – настоящият голям езиков модел на OpenAI, който се използва в ChatGPT.