Ерик Шмидт: „След 5-10 години изкуствените интелекти ще създадат свой собствен език и ще се обединят. Ние не знаем какво да правим с това“

В интервю за изданието Noema бившият главен изпълнителен директор на Google сподели прогнозите си за посоката на развитие на генеративния ИИ, посочи трите основни фактора, които водят до появата на свръхмощен ИИ, разказа до какво може да доведе надпреварата във въоръжаването в тази област между Запада и Изтока и оцени колко изостава Китай от САЩ в създаването на усъвършенствани модели на ИИ. Оказа се, че не много.

Според Шмидт най-важното нещо, което трябва да се разбере за състоянието на нещата в областта на генеративния ИИ, е, че ръстът на производителността на тази технология се развива с огромна скорост. Новите поколения модели ще се появяват приблизително на всяка година и половина. С тези темпове светът значително ще се промени след 3-4 години.

Шмид идентифицира трите движещи сили на този процес. На първо място, така нареченият „контекстуален прозорец“, просто казано, запитване към ИИ. То вече може да се състои от милиони думи; вече е измислен безкрайно голям контекстен прозорец. Това означава, че ИИ може да дава на потребителя инструкции стъпка по стъпка как да приготвя лекарства или да търси лек за рак. „След пет години ще можем да създаваме рецепти от 1000 стъпки за решаване на важни проблеми в медицината, материалознанието и изменението на климата“, казва той.

Втората движеща сила е „подобрената агентивност“. Като агент се определя един голям езиков модел, който може да научава нещо ново. Например, да прочете цялата литература по химия, да предложи няколко хипотези, да проведе няколко теста и да направи някои заключения. Броят на тези AI ще нарасне до милиони, те ще станат изключително продуктивни.

Третата – и най-важна според Шмид – е развитието на функционалността „текст към действие“. Потребителят може да каже на изкуствения интелект: „Напиши ми програмен код за X“ и кодът ще бъде написан. Взети заедно, това открива перспективи, които Шмидт нарича почти научна фантастика.

„В даден момент тези системи ще станат толкова мощни, че агентите ще започнат да си взаимодействат. Вашият агент, моят агент, нейният агент и неговият агент ще обединят усилията си, за да решат нов проблем“, предрича Шмидт. – Някои смятат, че тези агенти ще разработят свой собствен език, за да общуват помежду си. И от този момент нататък ние няма да знаем какво правят те. Какво ще правим тогава? Да извадим щепсела? Буквално да прекъснем захранването на компютрите? Когато агентите започнат да общуват и да правят неща, които хората не разбират, това ще бъде един сериозен проблем“.

Според него това ще се случи след около пет до десет години.

Шмидт продължава да изразява загриженост, че отворените изследвания и изходните кодове на генеративния ИИ, публикувани от западни компании, могат да попаднат в ръцете на „лоши момчета“ от Китай, Русия, Иран, Северна Корея и Беларус. Ето защо е толкова важно най-мощните ИИ системи, особено тези, които се доближават до нивото на универсалния ИИ, да разполагат с някакви вградени механизми за ограничаване на разпространението. Към днешна дата обаче такива не съществуват.

Шмид не изключва възможността за терористични актове с използване на ИИ, при това не само за кибератаки, но и за използване на биологични оръжия. Затова той предлага да се помисли за някакъв вид мирен договор между водещите сили, нещо подобно на Договора за открито небе, подписан от страните от ОССЕ през 1992 г., който позволяваше да се контролират военните дейности на съседите.

Въпреки това е малко вероятно това да спре надпреварата в областта на изкуствения интелект. Рано или късно САЩ и Китай ще се сдобият с малък брой изключително мощни компютри, способни сами да създадат нещо ново, което държавите няма да искат да покажат на собствените си граждани и/или конкуренти. Тези машини ще бъдат разположени във военни бази, свързани с атомни електроцентрали и заобиколени с бодлива тел и картечници.

Според изчисленията на Шмид Китай изостава от САЩ с около две години в областта на изкуствения интелект.