ChatGPT може да променя начина, по който мислите, и може би дори не го осъзнавате

Едва ли някоя технологична иновация в последно време е оказвала толкова силно въздействие, колкото изкуственият интелект. От писането на отговори до създаването на сложно визуално изкуство и дори генерирането на музика – генеративните инструменти на ИИ като ChatGPT завладяха общественото въображение. Влиянието им е толкова голямо, че регулаторните агенции са заети с изграждането на предпазни огради, за да не се стигне до отнемане на човешки работни места или, в най-лошия случай, до гибелта на човешката цивилизация.

Тези инструменти за изкуствен интелект далеч не са съвършени, особено що се отнася до присъщите им пристрастия. Но изглежда, че тази пристрастност не е просто недостатък на тези инструменти на ИИ, тъй като те могат много ефективно да повлияят на човешките мисли и да променят убежденията, особено на децата. Според съвместното изследване на експертите от Тринити Колидж, Дъблин, и Американското дружество за напредък в науката (AAAS) тези генеративни модели на ИИ могат да променят и човешките убеждения.

Особено когато става въпрос за възприятията ни за това какво може да прави ИИ и на какво трябва да се доверяваме.

Повтаряща се тема на изследователския труд, публикуван в списание Science, е, че когато хората силно вярват, че тези генеративни програми за ИИ са знаещи и уверени, те са по-склонни да им се доверят. А един от най-често срещаните проблеми, които тормозят моделите с генеративен ИИ като ChatGPT, Bard и Bing Chat, е халюцинацията.

Как ИИ заблуждава

Халюцинация е, когато моделът на ИИ дава отговор, който не е бил част от данните за обучение, или отговор, който не се е очаквал от него, но моделът на ИИ го предоставя независимо от това, за да угоди на своя човешки потребител. ChatGPT е известен с това, че е склонен към халюцинации, както и Bard на Google. Един от най-често срещаните сценарии за халюцинации са историческите данни. При подсказване на ChatGPT за измислена среща между две исторически личности – едната от тях е Махатма Ганди. Тя уверено отговорила с фалшив разказ за участието на Ганди в престрелка, сякаш това е истинско историческо събитие.

Според официалната институционална бележка от AAAS:

В документа се отбелязва, че децата са по-податливи на лошите последици от ИИ.

Селесте Кид, професор по психология в Калифорнийския университет в Бъркли и един от съавторите на статията, обясни в Twitter, че възможностите на моделите на ИИ често са пресилени, преувеличени и нереалистични. По нейно мнение те „създават популярна заблуда, че тези модели надхвърлят разсъжденията на човешко ниво. Изострят риска от предаване на невярна информация и негативни стереотипи на хората„.

Друг психологически фактор, който е в сила тук, е фактът, че хората често формират мнения и убеждения въз основа на малка част от информацията, с която разполагат.

ИИ е погрешен информационен канал

Ако ИИ служи на човека като източник на критична информация и концептуализация на идеи, става изключително трудно да преразгледа тези убеждения, дори когато по-късно е изложен на правилна информация. Това е моментът, в който генеративните модели на ИИ стават опасни. ИИ не само може да накара човек да повярва в грешна информация, защото е халюцинирал, но и собствените му присъщи предубеждения могат да проникнат в съзнанието на човешкия потребител.

Сценарият става особено опасен, когато става въпрос за деца, които са по-склонни да вярват в информация, която намират лесно достъпна чрез тези генеративни модели на ИИ. Защото в сравнение с идеята да направят собствена проверка със задълбочени изследвания, получени от интернет или от конвенционални източници на информация като книги, родители или учители, усилията са многократно по-малко.

Използването на генеративни модели с изкуствен интелект като ChatGPT в образователните институции вече стана тема на горещи дебати, които тревожат членовете на академичните среди. Не става въпрос само за плагиатството, но и за това как това променя из основи подхода на младите хора към събирането на знания и склонността им да правят собствени проучвания и експерименти.

Кид изтъкна и друг важен фактор – езиковата сигурност, с която хората обсъждат информацията.

Тя отбелязва, че по време на общуването си хората често използват термини като „мисля, че“, за да пояснят, че информацията, която предават, може да е тяхно мнение или личен спомен. Следователно е податлива на грешки. От друга страна, чат ботовете с ИИ, като ChatGPT и Bard, не разчитат на такива нюанси.

Цикъл на погрешно доверие

Колкото по-често човек е изложен на невярна информация, толкова по-силна е вярата му в тази дезинформация. По същия начин повтарянето на подозрителна информация, особено когато тя идва от „надеждни“ модели на изкуствен интелект, прави още по-трудно избягването на внушаването на фалшиви убеждения. Това може много добре да се превърне във вечен цикъл на разпространение на невярна информация.

Отправя се призив към учените, политиците, както и широката общественост да разпространяват реалистична информация за популярните технологии на ИИ, и най-вече за техните възможности.

Положението само се влошава

В статията се отбелязва, че когато потребителите са несигурни, това е моментът, в който те се обръщат към ИИ като източник на информация. Веднага щом получат отговор – независимо дали той е 100% точен, или не – съмнението им изчезва и любопитството им угасва. Те вече са си изградили мнение. Следователно те престават да обмислят или претеглят новата информация със същата спешност, с която са го правили, когато са се нуждаели от нея за първи път, за да формират информирано мнение.

Обезпокоително е, че ситуацията не изглежда да се облекчава сега, когато моделите с изкуствен интелект станаха мултимодални, което означава, че могат да генерират отговори в различни формати. Съответно горепосочените опасения се умножават.

ChatGPT и Bing Chat на Microsoft дават отговори под формата на текст. След това имаме модели за генериране на ИИ от текст към изображение като Dall-E и MidJourney. В публичното пространство има инструменти, които могат да генерират звук и глас от текст. Няма медиум, който да е застрахован.