Какво е свръхинтелигентността на изкуствения интелект? Между страха и реалността

По какъв начин технологиите променят света и какво предстои.

През 2014 г. британският философ Ник Бостром публикува книгата „Свръхинтелигентност: пътища, опасности, стратегии“, в която предупреждава, че системите с изкуствен интелект, способни да надминат човешките възможности, могат да представляват заплаха за човечеството. Идеите му намериха широк отзвук, особено сред учените и технологичните компании. Десетилетие по-късно ръководителят на OpenAI Сам Алтман заяви, че свръхинтелигентността може да се появи само след „няколко хиляди дни“ – това са около десет години. Преди година нейният съосновател Иля Суцкевер дори създаде екип в рамките на компанията, който да работи по проект за сигурен и безопасен суперинтелект, а сега той и колегите му са събрали един милиард долара, за да създадат нов стартъп със същата цел.

Терминът „свръхинтелигентност“ се отнася до всички системи за изкуствен интелект, които надминават човешкия интелект. Определенията обаче се различават. Мередит Рингел Морис от Google предложи класификация на шест нива на развитие на ИИ: от системи, които изобщо нямат интелект, до „свръхчовешки“. Разграничават се също тесни и общи ИИ системи. Тесните, като например калкулаторът, работят в ограничени области, като изпълняват строго програмирани задачи. В същото време общите системи са по-универсални и могат да усвояват нови умения. Пример за тесен ИИ на високо ниво е шахматната програма Deep Blue, която през 1997 г. победи Гари Каспаров. Свръхмодерната система AlphaFold, която прогнозира структурата на белтъците, също демонстрира свръхчовешки умения и е носител на Нобелова награда за химия.

Общите системи за изкуствен интелект са друга важна област. Те са способни да решават по-широк кръг от задачи, включително да се адаптират към новата среда. Въпреки това техните възможности все още са ограничени: езиковите модели като ChatGPT се оценяват като общи системи от „начално ниво“. Според Морис тези модели могат да изпълняват задачи на нивото на човек с минимален опит, но все още са далеч от нивото на компетентност, което притежава например един опитен възрастен.

Технологичните компании инвестират значителни средства в разработването на ИИ. Стотици милиарди долари се изразходват за закупуване на оборудване и разработване на тази технология, което дава основание да се очаква по-нататъшен напредък. Изследванията обаче показват, че съществуващите езикови модели, като например последната версия на o1 на OpenAI, въпреки че демонстрират сложни умения в някои области, като например логическото мислене, все още не успяват да се справят с по-сложните задачи. Изследователите предполагат, че тези модели остават по-скоро мощни инструменти за откриване на модели, отколкото пълноценни системи, способни на задълбочен анализ.

Основните постижения в областта на изкуствения интелект през последните години са свързани с прилагането на техники за дълбоко обучение за намиране на връзки и модели в големи масиви от данни. Някои от тези алгоритми, разработени още през 80-те години на миналия век, доведоха до присъждането на Нобелова награда за физика през 2024 г. на Джон Хопфийлд и Джефри Хинтън. В тези системи се постига значително подобрение чрез увеличаване на количеството данни, но може да няма достатъчно ресурси за тяхното по-нататъшно развитие. Изследователите работят върху ефективното използване на данните, създаването на синтетични данни и прехвърлянето на умения между различните задачи, за да намерят обходни пътища.

Много експерти посочват, че за да създадем истинска свръхинтелигентност, трябва да разработим „отворени системи“ – такива, които могат да генерират нови знания и да се учат от новите данни. Сегашните ИИ модели не притежават тази отвореност: те се учат от предварително подготвени данни и се използват в тесни задачи.

Въпреки това развитието на ИИ носи и рискове. Докато автономията на ИИ системите е малка, влиянието им е ограничено: те помагат при анализа на информацията и изготвянето на препоръки, както прави ChatGPT. Но с увеличаването на автономността им се увеличава рискът от грешки и надценяване на техните способности, което може да доведе до прекомерна самоувереност. В дългосрочен план автономните ИИ системи могат да започнат да заместват човешкия труд, да създават изкуствени взаимоотношения и дори да доведат до общо намаляване на интереса към живота.

Ако един ден бъде създаден пълноценен свръхинтелект, неговата автономност би могла да породи опасения, че системата има потенциал да излезе извън контрол. Въпреки това ИИ общността е на мнение, че безопасността на свръхинтелигентността е възможна, ако се въведат механизми за човешки контрол. Разработването на такъв ИИ изисква интегриран подход и обединяване на усилията на експерти от различни области.