Изкуственият интелект не мисли – той само гадае

Съвременните модели на изкуствен интелект се основават на статистически прогнози, а не на истинско разбиране, което създава фундаментални проблеми във функционирането им.

Изкуственият интелект, въпреки способността си да имитира човешкия език, не мисли по начина, по който сме свикнали. Работи на принципа на статистическото прогнозиране, обработвайки огромни количества данни. Механизмите му на обучение обясняват повечето от ограниченията на тези технологии. Разбирането на тези механизми е от решаващо значение за безопасното внедряване на изкуствения интелект.

Как се обучават големите езикови модели?

Процесът на обучение на ИИ е значително различен от човешкото познание. Моделите на големите езици (LLM) разделят текста на по-малки единици, наречени „токени“. Тези токени могат да бъдат думи или части от думи, които моделът анализира последователно. Както посочва изследователят Атхарва Госави: „Моделите не боравят със завършени идеи – само с вероятности за всеки токен.“

Основата на LLM обучението са милиарди тегловни коефициенти. Те могат да се разглеждат като регулатори, които определят връзките между токените. По време на обучението моделът коригира тези тегла, използвайки „функция на загуба“. Той оценява точността на прогнозата и намалява грешките в следващите итерации.

Например, ако бъде попитан за столицата на Франция, моделът не „знае“ отговора. Той определя, че след този въпрос най-често се среща думата „Париж“. Това е фундаментална разлика от човешкото познание и разбиране. Изкуственият интелект разпознава модели в текста, без да разбира тяхното съдържание или контекст.

Ключови проблеми на съвременните модели за изкуствен интелект

Статистическият характер на работата на LLM създава сериозни проблеми. Една от най-забележимите са халюцинациите —- когато моделът уверено генерира невярна информация. Това се дължи на липсата на истинско разбиране и оценка на достоверността. Моделът възпроизвежда само моделите, които е наблюдавал по време на обучението си.

Пристрастието е друг сериозен проблем в съвременните LLM. Моделите се обучават върху огромни количества интернет данни, които съдържат всички човешки предубеждения. Невъзможността за отделяне на фактите от субективните оценки ограничава надеждността на подобни системи. Както подчертават изследователите: „Отклонението не е умишлено, а зависи от данните за обучение.“

Проблемът с отклонението на модела възниква, когато реалността се променя по-бързо, отколкото се актуализират данните на изкуствения интелект. Представете си модел, обучен през 2022 г. да предсказва потребителските предпочитания. След икономическите промени през 2023 г., прогнозите му ще станат по-малко точни. Знанието на модела „замръзва“ по време на обучението, което ограничава дългосрочната му стойност.

Предизвикателствата при решаването на проблеми с изкуствения интелект

Коригирането на недостатъците на настоящите модели на изкуствен интелект изисква значителни ресурси. Преобучението на моделите с нови данни изисква огромна изчислителна мощност. Това обучение на модел на ниво GPT-4 отнема седмици или месеци със специализирано оборудване. Финансовите разходи често надвишават потенциалните ползи от премахването на предразсъдъците.

Ефектът на „черната кутия“ затруднява коригирането на грешките. Решенията на модела са базирани на милиарди взаимосвързани тегловни коефициенти. Дори разработчиците не могат да определят точно защо даден модел дава конкретен отговор. Липсата на прозрачност прави невъзможно точното определяне на проблемното поведение.

Обучението с подсилваща обратна връзка от човека (RLHF) частично смекчава тези проблеми. Човешките рецензенти оценяват входните данни, като обучават модела на правилното поведение. Въпреки това, RLHF остава трудоемък, скъп и ограничен в човешки мащаб. Той не е в състояние да обхване всички възможни отговори, които моделът може да генерира.

Съвременни подходи за подобряване на сигурността на ИИ

Изследователи и компании работят активно за подобряване на сигурността на моделите с изкуствен интелект. Техните усилия обхващат алгоритмични иновации и разработване на регулаторна рамка. Съобразяването на моделите с човешките ценности се превръща в приоритет за водещите разработчици.

Проектът Superalignment на OpenAI се фокусира върху създаването на системи, които отчитат човешките намерения. Екипът работи върху модели, способни да разсъждават за ценности и сигурност без постоянен надзор. Anthropic разработва „конституционен изкуствен интелект“ —- техника, при която моделът следва определени принципи, вместо да разчита единствено на човешка обратна връзка.

От регулаторна гледна точка, законодателството на ЕС за изкуствения интелект определя рамка за безопасното използване на технологиите. Той класифицира системите по ниво на риск и налага по-строги изисквания към приложенията с висок риск. Както експертите посочват: „Целта не е просто по-добро представяне, а безопасно представяне, което отразява човешките ценности.“

Академични лаборатории, включително Stanford CRFM, MIT CSAIL и Института за бъдещето на човечеството в Оксфорд, проучват подходи за намаляване на предразсъдъците. Техните изследвания оформят индустриалните стандарти и политическите решения в областта на изкуствения интелект.

Заключение: Ролята на човешкия надзор

Въпреки впечатляващите си възможности, LLM остава само инструмент за прогнозиране. Той не разбира контекста, значението или последствията. Човешкият надзор остава от решаващо значение за осигуряване на точността и етичното използване на ИИ.

Потребителите трябва да са наясно с ограниченията на тези системи. Можете да използвате изкуствен интелект, за да обобщавате документи или да генерирате код. Въпреки това, когато точността е важна, човек трябва да провери резултатите. Потребителят е отговорен за грешките, а не моделът.

Разбирането на механизмите за обучение на ИИ помага за реалистична оценка на възможностите на тези технологии. Разбирането на ограниченията е първата стъпка към безопасното и ефективно използване на изкуствения интелект за подобряване на човешките възможности.