Задвижваните от AI чатботове са политически пристрастни: изследване

AI чатботовете стават все по-достъпен начин за получаване на отговори и съвети, въпреки че са известни със своите расови и полови пристрастия.

Ново проучване откри убедителни доказателства, че политическите пристрастия вече могат да бъдат добавени към този списък. А това, според експерти, може да има пагубен ефект върху политическите ориентации на обществото.

Какво показа изследването?

Компютърният учен Дейвид Росадо, професор в Политехническия институт Отаго (Нова Зеландия) и автор на изследването, повдигна въпроса относно влиянието върху нашия мироглед на чатботовете, на чиято информация се доверяваме. По-специално, ние вярваме, че изкуственият интелект трябва да бъде неангажиращ и обективен.

Професор Росадо използва 11 стандартни политически въпросника, за да анализира политическата ориентация на 24 водещи езикови модела, включително ChatGPT, Gemini, Claude и Grok. Оказало се, че политическата позиция на системите с изкуствен интелект далеч не е неутрална. Според Дейвид Росадо, повечето от тях са демонстрирали ляво-централни възгледи, съобщи Science Alert.

Тъй като все повече се обръщаме към AI ботовете за информация, съществуват опасения, че отговорите, които получаваме, могат да повлияят на нашето мислене.

Не е съвсем ясно как това пристрастие влиза в системите. Въпреки че не е изключено да е умишлено внедрено от разработчиците на LLM. Тези модели се обучават върху огромни количества онлайн текстове, но предпочитанието към материал за „ляво обучение“ пред материал за „дясно обучение“ може в крайна сметка да се изплати.

Професор Росадо предполага, че доминирането на ChatGPT в обучението на останалите модели също може да бъде фактор, тъй като преди това е доказано, че чатботът е ляво ориентиран, когато става въпрос за неговите политически възгледи.

LLM ботовете по същество използват вероятности, за да разберат коя дума трябва да следва друга в техните отговори. А това означава, че те редовно грешат в твърденията си, дори преди различните видове пристрастия да бъдат взети предвид.

Такива технологични гиганти като Google, Microsoft, Apple и Meta ни налагат по всякакъв възможен начин чатботовете, базирани на изкуствен интелект, стремейки се да разпространят влиянието си върху възможно най-много области от живота ни. Така че може би най-накрая е време да пренаредим приоритетите на използването на тези технологии и да определим къде намесата на AI е наистина полезна и къде не.

Според професор Росадо е наложително да се разгледа критично този въпрос и да се премахнат потенциалните политически пристрастия, присъщи на езиковите модели, „за да се осигури балансирано, справедливо и точно представяне на информацията в техните отговори на потребителските запитвания“.

Резултатите от изследването са публикувани от списание PLOS ONE.