Могат ли чатботовете с изкуствен интелект наистина да имат халюцинации?

Ако през 2022 и 2023 г. сте били в интернет поне веднъж, няма как да не сте научили за чатботове с изкуствен интелект като ChatGPT и Bing AI. Тези системи за изкуствен интелект използват комбинация от обработка на естествен език и информация, събрана от обучение върху огромни масиви от данни, за да взаимодействат с потребителите.

Тези системи с изкуствен интелект са невероятно убедителни в представянето си.

Информацията, която подават, изглежда точна, но всъщност понякога това далеч не е така. Едно от най-големите предизвикателства при моделите за генериране на текст и изображения от ИИ се нарича „халюцинация“. 

Тя отнема доста от блясъка на иначе революционната технология. 

Халюцинация е, когато ИИ уверено представи информация, която няма никаква основа в реалността. Често срещана грешка, забелязана в началото, е изобретяването на източници и цитати. В демонстрация на The Oxford Review в YouTube ChatGPT вмъква цитат на несъществуващ научен труд. Списанието, към което е направена препратката, е истинско, но статията и авторите ѝ не са открити никъде. 

В друг странен пример Bing Chat на Microsoft си измисля информация за прахосмукачки по време на своя демонстрация. Примерите са много.

Генераторите на изкуство с изкуствен интелект също халюцинират в известен смисъл. В този случай те са склонни да изопачават анатомията. Това често се изразява в човешки персонажи с безбожно много пръсти например.

Защо системите с изкуствен интелект халюцинират?

Проблемът с генераторите на изкуствен интелект – независимо дали става дума за генератори на изображения или текст – е свързан с начина, по който те се обучават. Разбира се и с начина, по който генерират отговори. ИИ се обучава с помощта на съдържание от интернет, което използва, за да придобие знания и контекст по различни теми. Когато потребителят въведе запитване в нещо като ChatGPT, той се рови в базата си от знания и предоставя отговор въз основа на контекста, с който разполага. 

Както обяснява когнитивният учен Дъглас Хофстадър в The Economist, изкуственият интелект не е съзнателен или чувствителен, дори и да се опитва всячески да убеди някои от нас в обратното.  

Според Science Focus тези халюцинации на ИИ произтичат от фундаментална липса на разбиране на предмета. ИИ не рисува ръка, защото знае как работи анатомията, а защото е обучен как изглежда ръката. Да но в различните снимки, с които е захранен, ръката е в различна позиция, от различен ъгъл, не винаги в цял размер. Заради липсата на съзнание, това не води до определени изводи, чрез които да се генерира правилно изображение на ръката.

ИИ, който прави такива грешки, е обезпокоителен, защото може да доведе до значителни проблеми в жизненоважни приложения на ИИ. Такива са самоуправляващите се превозни средства, журналистиката и медицинската диагностика. Именно заради това, борбата с халюцинациите е приоритет №1 на създателите на различни системи с ИИ. Ако искат това наистина да бъде революция.