Изправен ли е пред своя „Хинденбург момент“ изкуственият интелект

Вероятно на мнозина прави впечатление агресивното и насилствено налагане на генеративния изкуствен интелект във всекидневието, в бизнеса, навсякъде. Появили се на пазара преди три-четири години, GenAI инструментите вече се използват повсеместно. Може ли да се обърка нещо и какво? За пукане на „AI балона“ изглежда рано да се говори. А и едно подобно събитие едва ли ще е чак толкова страшно. Просто, като при пукането на дотком балона, малките играчи ще изчезнат, големите ще останат. Има по-голяма заплаха. За която всички си мислят, но малцина говорят.

Майкъл Улдридж, професор по изкуствен интелект в Оксфордския университет е един от тези, които говорят за реалните опасности. В интервю за The Guardian, той говори за опасността AI индустрията да се изправи пред своя „Хинденбург момент“.

Шести май 1937 ще се запомни в историята на въздухоплаването с една трагедия, променила из основи отношението към една технология, и на практика – сложила нейния край. Това е датата, на която дирижабълът „Хинденбург“ избухва в пламъци при опит за кацане край Ню Джърси.

„Инцидентът с Хинденбург разрушава световния интерес към дирижаблите. От този момент нататък, това се счита за мъртва технология“, коментира Улдридж. Според него, изкуственият интелект е изправен в момента именно пред един такъв риск. Технологията е внедрена в толкова много системи, че може да станем свидетели на голям инцидент във всеки един сектор.

Улдридж коментира, че технологичните компании са подложени на натиск от бизнеса. Който иска нови и нови AI инструменти, за да спечелят повече клиенти пред конкуренцията. И то преди тези инструменти да бъдат надлежно тествани и разбрани. Пример за пренебрегването на сигурността пред търговското търсене е факта, че системите за безопасност в тези инструменти биват преодолявани толкова лесно. „Става дума за класически технологичен сценарий. Имате технология, която е много, много обещаваща. Но не е толкова добре проверена, колкото на вас ви се иска. А търговския натиск към вас е непоносим“, продължава Улдридж. Самият той предвижда разнообразни сценарии.

Като например грешна актуализация за автономните коли, хакерска атака, подпомогната от изкуствен интелект, която да приземи световния въздушен трафик. Или колапсът на голяма компания. „Това са едни съвсем реални сценарии. Има безброй начини, по които изкуственият интелект може да сбърка“.

Преди броени дни Улдридж изнесе и специална лекция по темата при връчването на наградата на името на Майкъл Фарадей на Кралското научно дружество. Тя е озаглавена „Това не е изкуственият интелект, който ни беше обещан“. Може да я гледате тук.

Проблемите и възможните решения

Един от проблемите на днешната реализация на изкуствения интелект според него е в разминаването между очакванията на учените и получения резултат. Много от тях са очаквали да се получи нещо, което изчислява решенията на задачи и осигурява ясни и завършени отговори. „Съвременният изкуствен интелект е нито ясен, нито завършен. Той дава едни много, много приблизителни отговори“, обяснява Улдридж. Това се получава понеже днешните езикови модели предоставят отговори, предвиждайки следващата дума. Или част от нея. Това води до изкуствени интелекти с нарушени способности. Те са невероятно добри в едни задачи. И ужасни в справянето с други.

Един от основните проблеми е, че чатботовете често се провалят по непредсказуеми начини. Но те са проектирани да дават отговори с пълна увереност. „Компаниите искат да представят изкуствените интелекти в една много човешка опаковка. Но това според мен е един много опасен път, по който са поели. Трябва да се разбере, че това просто са едни прехвалени таблици. Това са инструменти. И нищо повече“

Едно възможно решение в случая е чатботовете да не бъдат проектирани по модел на хората. Улдридж дава за пример един епизод от „Стар Трек“. В Day of the Dove, Спок пита компютърът на „Ентърпрайз“ нещо, на което той му отговаря, че не разполага с достатъчно данни, за да му отговори.

„Но не това получихме в действителност. Вместо това имаме прекалено уверен изкуствен интелект, който ти казва: „Да, ето ти отговорът“. Може би се нуждаем от изкуствени интелекти, които да ни отговарят с гласа на компютъра от „Стар Трек“. Никога няма да го възприемете, като човешко същество“.