20% от изчислителната мощност на OpenAI се използва за създаването на защита от свръхразумен ИИ

Докато конфликтът между Сам Алтман и борда на директорите на OpenAI все още назряваше, компанията е създала екип за предотвратяване на потенциално опасни ситуации, в които свръхинтелигентният интелект излиза извън контрол. Сега специалисти на изданието TechCrunch разговаряха с членовете му и разбраха колко реална според тях е заплахата и какви мерки разработва компанията, за да предотврати „въстанието на машините“. Оказа се, че Алтман е напълно уверен в предстоящата поява на силен ИИ и е предоставил на специален екип от учени и инженери 20% от общата изчислителна мощ на OpenAI, за да създадат технология за неговото контролиране.

През месец юли OpenAI сформира екипа Superalignment, за да разработи начини за управление, регулиране и контрол на „свръхинтелигентните“ системи с изкуствен интелект – т.е. хипотетични машини, които превъзхождат по интелигентност хората. Той се оглавява от Иля Суцкевер, същият, който ръководеше неуспешния опит за преврат срещу Алтман и бе отстранен от борда на директорите. Позицията му в компанията е несигурна, но той е оставен на работа.

„Днес можем да контролираме AI модели, които са по-глупави от нас или най-много приблизително равни на нас“, казва Колин Бърнс, един от членовете на екипа на Superalignment, пред TechCrunch. – Контролирането на модели, които са много по-умни от нас, не е толкова очевидна задача – как изобщо е възможно това?“

Свръхинтелигентният ИИ е спорен въпрос в средите на разработчиците. Не всички са убедени, че заплахата е реална. Алтман обаче многократно е изтъквал възможните рискове и дори сравни ИИ с ядрена бомба, а OpenAI – с проекта „Манхатън“. Някои експерти обаче твърдят, че тези изявления са направени, за да се отклони вниманието на законодателите от истинските проблеми на ИИ: например пристрастността и липсата на прозрачност.

Самият Суцкевер е убеден в реалността на заплахата, пише TechCrunch. Това личи не само от неговите изявления, но и от действията му: той е също е пренасочил значителна част от изчислителната мощ на компанията.

„Наблюдаваният напоследък напредък в областта на изкуствения интелект е невероятно бърз и мога да ви уверя, че той няма да се забави“, заяви Леополд Ашебренер, член на екипа на Superalignment. – Мисля, че много скоро ще достигнем до системи на човешко ниво, но няма да спрем дотам и ще отидем още по-далеч, до свръхчовешки системи. (…) И така, как да контролираме свръхинтелигентните системи с изкуствен интелект и как да ги направим безопасни? Това е проблем, пред който е изправено цялото човечество и който може би е най-важният нерешен технически проблем на нашето време“.

Сега екипът работи по разработването на система за контрол на бъдещите и потенциално опасни ИИ на правителствено и друго ниво. Задачата не е очевидна, като се има предвид липсата на съгласие относно определението за „свръхинтелигентност“ и способността на ИИ системите да я постигнат. Подходът, който сега се проучва в Superalignment, е да се използват по-малко сложни модели (например GPT-2), за да се насочи в правилната посока развитието на по-сложните (GPT-4). По-слабият модел на практика се използва като аналог на човек, който се опитва да контролира свръхинтелигентен изкуствен интелект.

Всички резултати от работата на този екип ще бъдат предоставени на широката общественост, увериха членовете на екипа.

Учените са загрижени, че неграмотното използване на изкуствения интелект води до заливане с ненадеждни или безполезни изследвания. Това може да доведе до криза на възпроизводимостта на научните трудове. Моделите на изкуствения интелект страдат от пристрастия и грешки, които се пренасят в научните статии. В медицината това може да доведе до погрешни диагнози. Засега.