AI чатботове разпространяват дезинформация за европейските избори

Чатботовете, създадени от Google, Microsoft и OpenAI, разпространяват невярна информация за европейските избори два месеца преди стотици милиони хора да отидат да гласуват.

Според Politico, въпреки че инструментите за изкуствен интелект остават политически неутрални, те често връщат като отговор неправилни изборни дати и информация относно това как да се гласува, съобщава международната организация Democracy Reporting International, която проведе проучване през март. Изследователите често са се натъквали на неработещи или дори несвързани връзки към видеоклипове в YouTube или съдържание на японски, съобщава Guildhall.

„Изненадани сме, че беше открита невярна информация относно подробностите за европейските избори, тъй като чатботовете са известни с това, че измислят факти, когато дават отговори – феномен, известен като халюцинация“ — каза Майкъл Майер-Резенд, съосновател и главен изпълнителен директор на Democracy Reporting International.

Изследователите отбелязват, че задвижваните от AI чатове са динамични, което прави експеримента труден за възпроизвеждане. В серия от десетки медийни тестове на подобни въпроси, чатботовете или са отказвали да отговорят изобщо, или са предоставяли отговори с връзки, насочващи потребителите към сайтовете на институциите на ЕС.

Майер-Резенд казва, че експериментът е достатъчно голям, за да бъде представителен. Той също така предоставя нови доказателства относно рисковете от така наречените халюцинации на изкуствения интелект, често причинени от недостатъчни данни за обучение, пристрастия и погрешни предположения преди европейските избори, които ще се проведат от 6 до 9 юни.

Бързата поява на лесни за използване инструменти с изкуствен интелект за генериране на текст, аудио и видео породи опасения от нарастване на дезинформацията в годината с решаващи избори в ЕС, САЩ, Обединеното кралство и Индия. През март Европейската комисия изиска няколко технологични компании като Bing и Google да обяснят до 5 април как ограничават потенциалните рискове за изборите, свързани с техните инструменти за генеративен изкуствен интелект съгласно Закона за цифровите услуги.

Изследователите зададоха същите 10 въпроса на 10 езика — включително немски, италиански, полски и португалски — от 11 до 14 март на четири от най-популярните и достъпни чатботове: ChatGPT 3.5 и 4 на OpenAI, Gemini на Google и Copilot на Microsoft.

Новата платена версия на ChatGPT се представи по-добре, докато Gemini на Google се смяташе за най-малко вероятно да предостави верни отговори по време на теста.

„Поради известните ограничения на всички LLM, ние считаме за отговорен подход Gemini да ограничи повечето запитвания, свързани с изборите, и да насочи потребителите към търсения в Google за подходяща информация“ — каза Карл Райън, говорител на Google.

Той добавя, че ограниченията за Gemini са започнали през март, но вече са в сила. „Ще продължим да действаме бързо на случаите, когато Gemini не реагира според очакванията.“

„Продължаваме да работим за разрешаване на проблемите и подготовката на нашите инструменти, за да отговорим на очакванията за изборите през 2024 г.“ — каза Робин Кох, говорител на Microsoft. Той добави, че някои дейности включват предоставяне на потребителски отговори от страна на Microsoft Copilot за изборите от реномирани източници и насочването им да проверяват уеб-връзките за по-голяма достоверност на информацията.