Джефри Хинтън, „кръстникът на изкуствения интелект“: Може би сме обречени. Но ще е срамота да е, защото не сме се опитали

Вчера основната зала на GITEX Europe в Берлин беше пълна до последното място – учени, инвеститори, представители на големи технологични компании и институции от цял свят. Всички чакаха да чуят човек, за когото вече не се говори просто като за изследовател, а като за фигура от фундаментално значение за съвременната технологична епоха. Да слушаш Джефри Хинтън на живо е като да чуеш човек, който вече е изпреварил времето.

Наричан „кръстника на изкуствения интелект“, Хинтън е носител на Нобеловата награда за физика за 2024 г. и една от най-важните фигури в историята на машинното обучение. Неговата работа по алгоритъма за обратно разпространение на грешка (backpropagation) и участието му в разработването на AlexNet поставиха основите на „дълбокото учене“ – същото, което движи днешните системи като ChatGPT и GPT-4. Поводът за появата му в Берлин беше открит разговор на сцената с Алок Джа, редактор от The Economist, който заведе публиката през трудните, но крайно необходими въпроси за бъдещето на изкуствения интелект.

„Създаваме същества по-умни от нас – и нямаме идея как да ги направим безопасни.“

Тази реплика на проф. Джефри Хинтън, изречена с равен, почти спокоен глас пред аудиторията в Берлин, прозвуча като обобщение на целия разговор – и като предупреждение. Той не говори в условно наклонение, не използва фрази като „ако някой ден“ или „в далечното бъдеще“. Според него това ще се случи в рамките на 10 до 20 години – напълно реалистичен хоризонт според сегашното темпо на развитие на изкуствения интелект.

Хинтън отказва да използва термин като AGI (Artificial General Intelligence), който според него вече подвежда. Вместо това говори директно за superintelligence – интелект, надвишаващ човешкия по почти всички показатели. И добави:

„Щом достигнат нашето ниво, те бързо ще го надминат. И тогава вече няма да можем да следим процеса.“

Това, което го тревожи най-много, не е техническото усъвършенстване на тези системи, а липсата на реална представа как ще ги управляваме, когато станат по-умни от нас.

Технологична надпревара без спирачки

Един от най-обезпокоителните аспекти, които проф. Хинтън открои в разговора, е темпото, с което напредва развитието на изкуствения интелект – и невъзможността да бъде забавено. Според него дори да има желание за пауза, както предложиха някои експерти и публични фигури, пазарната и геополитическата динамика прави това почти невъзможно. „Ако едната страна спре, другата ще продължи“, обобщи той.

„Мъск искаше шестмесечна пауза. Не подписах петицията – нямаше никакъв шанс да се случи. Всички бързат.“

В рамките на GITEX Europe беше ясно, че това бързане се усеща не само в академичните среди, но и в бизнеса и администрацията – десетки компании представяха свои нови AI решения, често с фокус върху скоростта, обхвата и внедряването. В този контекст предупреждението на Хинтън прозвуча като антипод на общото настроение: той описа настоящата ситуация като „състезание без спирачки“, в което всеки гледа напред, без да има време или интерес да мисли какво следва след финала.

Компаниите няма да спрат сами

Проф. Хинтън беше категоричен в едно: не можем да очакваме от технологичните компании сами да поемат отговорността за безопасността на изкуствения интелект. Според него дори и най-добрите намерения се сблъскват с юридическата и пазарна реалност, в която корпорациите са задължени да преследват ръст, ефективност и възвръщаемост – а не етична устойчивост.

„Те са юридически задължени да търсят печалба. Те няма да забавят темпото.“

Хинтън не отправя обвинения, а посочва системен проблем. Решението, което предлага, не е вътрешна саморегулация, а външен натиск – от обществото към правителствата, които от своя страна да наложат регулации и механизми за контрол. В противен случай, според него, ще продължим да изграждаме все по-мощни системи без реални инструменти за предвиждане и ограничаване на последствията.

Open-source ≠ безопасност

По време на разговора в Берлин проф. Хинтън направи важно разграничение, което често се пренебрегва в дебата за прозрачността на AI – разликата между отворения код и отворените изкуствени интелекти. Според него объркването между двете води до фалшиво усещане за сигурност.

„Да отвориш параметрите на мощен модел е като да дадеш свободен достъп до уран за атомна бомба.“

Докато open-source кодът може да бъде проверяван от общността – ред по ред, логика по логика – и потенциалните уязвимости да бъдат открити, отворените параметри не подлежат на подобен контрол. Те представляват числови стойности, научени от модела по време на обучението, които определят поведението му. Но тези стойности не са разбираеми в човешки смисъл и не позволяват анализ или одит от независими експерти.

Още по-притеснителен е фактът, че веднъж публикувани, параметрите могат да бъдат лесно донастройвани (fine-tuned) с нови данни – включително в опасни посоки: генериране на биооръжия, автоматизация на кибератаки, масови манипулации. Вместо да носят демократизация и сигурност, както е при класическото отворено програмиране, в случая с AI отворените модели могат да се превърнат в универсално оръжие в ръцете на неподходящи хора.

Аналогията с тигъра – ясен образ, който остава

Сред множеството технически и философски обяснения, една проста аналогия на проф. Хинтън успя да улови същността на страха, който изразяваше през целия разговор. Говорейки за текущото ниво на изкуствения интелект, той го сравни с тигърче – малко, сладко, очарователно и още неопасно.

„Всички харесват тигърчето – малко, сладко. Но то пораства. И ако не си сигурен, че няма да те убие – трябва да се тревожиш.“

Тази метафора ясно илюстрира идеята, че днешният AI може да изглежда контролиран, полезен, дори симпатичен, но когато достигне нивото на самостоятелна интелигентност и започне да се усъвършенства сам, ще е твърде късно да го укротим. Хинтън подчерта, че нямаме примери в историята, в които значително по-глупави същества успешно контролират по-интелигентни такива. Именно затова суперинтелигентният AI не просто е предизвикателство – той е потенциална загуба на контрол над собствената ни съдба.

Предупреждението на учения

Въпреки мащаба на темите и сериозността на предупрежденията, проф. Джефри Хинтън не се опита да шокира публиката с апокалиптични прогнози. Напротив – неговият тон остана рационален, внимателен и подчертано човешки. Той не говори за край на света, а за възможност за провал, ако не започнем да действаме разумно още сега.

В неговите думи прозираше не тревога, а усещане за дълбока отговорност – както на учените, така и на политиците, компаниите и обществото като цяло. Времето да обсъждаме моралната и техническа безопасност на AI не е някой бъдещ момент – то е настоящето. Системите вече са тук, а темпото не намалява.

„Може би сме обречени. Но ще е срамота да е, защото не сме се опитали.“

Това изречение не беше ефектен завършек на реч – беше спокойна и болезнено честна констатация от човек, който знае колко е направил… и колко повече предстои.