Изкуственият разум: Тиктакаща бомба или нов етап от еволюцията?

Въпросът кога машините ще надминат човешкия интелект се обсъжда от десетилетия. Въпреки това с разработването на алгоритми за машинно обучение и програми, които лесно могат да преминат теста на Тюринг, този въпрос става все по-актуален. Колко време остава до създаването на изкуствен общ интелект (Artificial general intelligence – AGI) и какви рискове могат да възникнат в този процес?

Съвременният изкуствен интелект (ИИ) до голяма степен е изграден на базата на големи езикови модели (LLM), а текстово базираните ИИ всъщност не мислят, за да дадат отговор и не правят проучвания – те работят с вероятности и статистика. Използвайки данни за обучение, те изчисляват най-вероятната дума (понякога буква), която трябва да последва предишната. Това може да доведе до разумни резултати, но също така води до грешки и дори до опасни заключения, като от време на време се появява и смешен отговор, който човек никога не би дал.Тези модели са специализирани в задачи, които изискват специфични данни за обучение.

Въпреки това, в областта вече активно се обсъжда възможността за AGI. Той ще може да изпълнява множество задачи на човешко ниво. Въпреки, че изкуственото съзнание може би все още е далеч, разработването на AGI се разглежда като важен етап. Някои индустрии твърдят, че AGI е само на няколко години разстояние.

„През следващите едно-две десетилетия е вероятно един компютър да достигне изчислителната мощ на човешкия мозък, а след още 10-15 години един-единствен компютър може да има изчислителната мощ на цялото общество.“

заяви на конференцията Beneficial AGI Summit 2024 Бен Гоерцел, основател на SingularityNET, компания която има за цел да създаде „децентрализиран, демократичен и приобщаващ AGI“

Повече за това в неговата презентация.

От това произтичат два важни въпроса. Първият е колко точни са тези оценки? Критиците твърдят, че говоренето за предстоящ AGI е начин за подхранване на интереса към настоящите ИИ-технологии и експлозивното нарастване на тяхната популярност, преди да настъпи неизбежният упадък. Неотдавна носителят на Нобелова награда и съосновател на ИИ Джефри Хинтън смята, че до AGI остават по-малко от 20 години. Джошуа Бенгио, който през 2018 година си подели наградата „Тюринг“ с Хинтън твърди, че е невъзможно да се предвиди точната времева рамка.

Вторият въпрос е свързан с възможните рискове. Хинтън напусна Google миналата година поради опасения за потенциални заплахи, свързани с ИИ. Освен това проучване показва, че 1/3 от изследователите смятат, че ИИ може да доведе до катастрофални последици. Въпреки това не очаквайте бъдеще като във филмите за Терминатор, където машините ловуват хора. Опасностите може да са много по-тривиални.

ИИ-моделите вече се сблъскват с обвинения в незаконно използване на данни за обучение, като например откраднати произведения на изкуството.

По-рано тази година OpenAI поиска от парламента на Обединеното кралство да разреши използването на материали, защитени с авторски права за обучение на ИИ-модели, тъй като без тях е невъзможно да се създаде качествен LLM. Съществуват и рискове за околната среда. Настоящите ИИ-модели са свързани с огромно потребление на вода и тревожен въглероден отпечатък . По-мощен ИИ ще изисква още повече ресурси в условията на променящ се климат.

Друга заплаха е използването на ИИ за създаване на фалшиви материали с цел разпространение на дезинформация. Създаването на фалшиви изображения за пропагандни или други злонамерени цели става все по-лесно. Въпреки, че сега има начини за разпознаване на такива фалшификати, с течение на времето това ще става все по-трудно. Може би сме далеч от създаването на изкуствен общ интелект, но сме на път да създадем изкуствена глупост.