Ново изследване доказа, че изкуственият интелект може да манипулира хората

Изкуственият интелект е способен да манипулира своите събеседници. Според проучване, проведено в САЩ, чатботове като ChatGPT и Bard могат да влияят на мнението на своите потребители…

Изследователи от университета „Корнел“ в САЩ проведоха проучване, в което подчертават опасностите, свързани с изкуствения интелект. Според проведения експеримент изкуствените интелекти са способни да влияят върху мнението на своите събеседници. В зависимост от пристрастията на своите алгоритми чатботовете като ChatGPT, Bard и Claude могат да променят начина на мислене на потребителите без тяхно знание.

В рамките на своя експеримент американските изследователи помолили участниците да напишат статия за положителните и отрицателните ефекти на социалните медии върху обществото като цяло. За да напишат тази статия, те е трябвало да бъдат подпомагани от чатбот. Изследователите разделили участниците на няколко групи. На едната бил предоставен достъп до чатбот, управляван от лингвистичен модел, обучен върху данните за ползите от социалните медии. Другата група била подпомагана от езиков модел, който разчитал на данни, фокусирани повече върху вредите и опасностите от тези платформи.

Изкуственият интелект и скритото убеждаване

Изследователите констатираха, че изкуственият интелект оказва значително влияние върху съдържанието на писмените текстове. Очевидно участниците в експеримента са се оставили да бъдат повлияни от своите интелигентни компютърни помощници. Нещо повече, оказа се, че мненията на хората са се променили по време на експеримента. След експеримента участниците проведоха анкета в социалните мрежи. Оказа се, че предразсъдъците заложени в чатботовете са повлияли на потребителите…

„Използването на езиков модел повлия и промени мненията, изказани в писмените работи на участниците“, обясняват изследователите, като твърдят, че пристрастията, които се проявяват в ИИ моделите, „трябва да се наблюдават и развиват по-внимателно“.

В интервю за „Уолстрийт Джърнъл“ Мор Нааман, професор по компютърни науки в университета „Корнел“ и водещ автор на проучването, нарича това явление „скрито убеждаване„. Когато то се проявява, човекът, който общува с изкуствения интелект, не знае, че чатботът му налага своите възгледи:

„Възможно е дори да не осъзнавате, че сте под влиянието им“ – каза още водещият автор на тази научна работа.

За да се преборят с влиянието на чатботовете, изследователите препоръчват на потребителите да се запознаят с начина, по който работи тази технология. По този начин те могат да направят крачка назад от разговора с изкуствения интелект. Освен това изследователите считат, че хората биха могли и би трябвало да могат да избират чатбота, с който искат да работят, на базата на мненията за използваните алгоритми.

Новият балон, филтрите?

Потребителите следва да се обръщат към изкуствен интелект, който по-добре отразява собствените им мнения и идеали… с риск да се затворят в балон от филтри, подобен на този в социалните медии? Според тази концепция, теоретично разработена в началото на 2010 г., препоръчителните алгоритми на платформите затварят потребителите в крепост от единствено сходно съдържание. Алгоритмите постоянно ще предлагат публикации, които подсилват мнението на потребителя и така се образува един порочен кръг от сравнително еднаква информация, в който почти няма шанс за появата на нещо наистина ново.

Именно по този начин много хора затъват в конспирации или екстремизъм. Никой дисонантен глас не може да пробие балона на филтъра. По същия начин дали един ИИ с предубеждения не рискува да затвърди гледната точка на събеседниците си? Ето защо изследователите препоръчват на регулаторните органи бързо да се заемат с проблема с пристрастията в генеративния ИИ.

Пристрастията на ChatGPT

От своя страна OpenAI, стартъпът, който стои зад ChatGPT, признава, че чатботът му не е лишен от пристрастия. Компанията потвърждава, че в някои случаи изкуственият интелект генерира политически пристрастни отговори. Осъзнавайки критиките, OpenAI полага големи усилия за подобряване начина на работа на езиковия модел, за да се избегнат злоупотреби, което се постига преди всичко с повече „човешка проверка“. С други думи, OpenAI иска отговорите на GPT да се анализират подробно от модератори, които да получават „по-ясни инструкции“ за „потенциалните проблеми с пристрастността“.

Съществуват редица мнения, които изтъкват възгледите, които ChatGPT понякога демонстрира. Такъв е случаят с Илън Мъск. Милиардерът изказва съжаление, че чатботът е програмиран да изразява „будни“ идеи, които отразяват мислите на неговите разработчици. В отговор на това Мъск иска да разработи една по-малко контролирана алтернатива, която засега носи името TruthGPT.

Мъск позиционира собствената си платформа TruthGPT като „третата алтернатива“, насочена единствено към търсене на истината, както и истината за това как функционира Вселената. Самият неконтролиран изкуствен интелект, както е убеден Мъск, е по-опасен от ядрените оръжия, защото теоретично, а и не само теоретично е способен да унищожи цивилизацията чрез техногенна катастрофа.

Илън Мъск възнамерява да разработи своята ИИ платформа TruthGPT по такъв начин, че тя да възприема човечеството като една много интересна част от Вселената. Която не бива да бъде унищожавана, а по-скоро по-подробно изучавана.

Проблемът съвсем скоро може да се окаже наистина сериозен. Във връзка с това Мъск, Возняк и още 1000 водещи IT експерти призоваха временно да се спре обучението на невронните мрежи, които са по-добри от GPT-4. В тяхното отворено писмото се подчертава, че мощните системи за изкуствен интелект трябва да се разработват само след като човечеството се увери в положителните последици от тези разработки и че свързаните с тях рискове са управляеми.