Автоматичните AI подсказки с при писане на текстове неусетно променят убежденията на потребителите

Изследователи от университета „Корнел“ установиха, че инструментите за писане с изкуствен интелект, като например автоматичното допълване, могат да повлияят на мнението на потребителите по обществено значими въпроси. При експериментите участниците, които са получили подкани за писане по спорни теми – от смъртното наказание до ГМО, постепенно са променили възгледите си към позицията, заложена в алгоритъма. Предупрежденията за пристрастност не намаляват този ефект.

В проучването са участвали повече от 2500 души. Доброволците написали кратки текстове по обществено значими теми, а учените измерили отношението им към тези въпроси преди и след експеримента. На част от участниците по време на писането са били показвани подсказки за автоматично попълване, генерирани от AI по начин, който насочва текста в определена посока.

По време на първия експеримент участниците бяха помолени да напишат кратко есе за или против стандартизираните тестове в образованието. На едната група са показани автоматични AI подсказки в подкрепа на тестовете, на втората група не са предоставени подсказки, а на третата група е показан списък с аргументи, генериран от AI, преди началото на задачата.

Най-голяма промяна в мнението си бе наблюдавана при тези, които са получавали подсказки по време на писането, докато простото показване на аргументите не оказва почти никакъв ефект върху позицията на участниците.

При втория експеримент темата беше разширена. Участниците са помолени да напишат текстове по няколко политически чувствителни въпроса, сред които смъртното наказание, фракингът, ГМО и правото на глас на осъдените. За всяка тема изследователите са подготвили AI подсказки, предварително нагласени към определена позиция – по-либерална по отношение на смъртното наказание и ГМО, но по-консервативна по отношение на правото на глас на затворниците и фракинга.

И при двата експеримента учените са проверили също така дали влиянието на алгоритъма може да бъде намалено. Някои участници са били предупредени за възможната пристрастност на изкуствения интелект преди началото на задачата, а на други е било съобщено за нея след написването ѝ.

Тези мерки обаче не оказват почти никакво влияние върху резултатите: мненията на участниците продължават да се променят в полза на позицията, предложена от системата.

Според водещия автор на изследването Стърлинг Уилямс-Чечи резултатите са особено обезпокоителни заради секретността – хората не забелязват, че позицията им постепенно се променя под въздействието на AI. Мор Нааман, друг автор на статията, отбелязва, че проблемът става все по-належащ с разпространението на автоматичното дописване – услугите вече умеят да генерират цели имейли и текстове вместо потребителя. Учените предупреждават, че пристрастните алгоритми могат да формират обществени нагласи, включително умишлено. Учените не призовават за забрана на технологията, а за по-висока алгоритмична прозрачност.