Технологии на измамата: Как търсачките с ИИ се превръщат в наши врагове

Ново изследване показва, че базираните на изкуствен интелект търсачки на компании като OpenAI, Google и Microsoft могат по невнимание да заблуждават потребителите и да разпространяват дезинформация.

Проблемът се крие в основните алгоритми и недостатъците при обучението на ИИ-моделите.

В момента правителството на Нова Зеландия изготвя законопроект, който ще задължи големите технологични компании като Google и Meta да плащат на новинарските агенции за използването на тяхното съдържание в услугите им. По някаква причина обаче властите са решили да не включват в документа въпроси, свързани с изкуствения интелект.

Пол Голдсмит, министър на медиите и комуникациите на Нова Зеландия, заяви, че законопроектът ще бъде изменен, но няма да разглежда въздействието на генеративния ИИ върху търсенето на новини. Темата ще бъде разгледана отделно в бъдеще, каза той.

Въпреки това законопроектът ще даде на министъра правомощието да определи кои организации ще попаднат в обхвата на новия закон. Вероятно списъкът все пак ще включва големи корпорации като Microsoft и OpenAI.

Реакцията на медийните компании към развитието на изкуствения интелект в сферата на новините е смесена. Чатботовете като Gemini на Google, Copilot на Microsoft и ChatGPT на OpenAI използват информация от новинарските сайтове, за да отговарят на потребителски запитвания и да обучават своите модели. Това е проблем за много издатели.

Някои големи медийни корпорации, сред които News Corp, Financial Times и германската Axel Springer решиха да си сътрудничат с разработчици на изкуствен интелект и вече сключиха правни споразумения за използване на тяхното съдържание. Това може да бъде от полза и за двете страни, тъй като компаниите за ИИ се нуждаят от повече данни, а медиите – от популяризиране.

Други издания като The New York Times и Alden Global Capital (вторият по големина собственик на вестници в САЩ) са избрали пътя на конфронтацията. Те са подали съдебен иск срещу Microsoft и OpenAI, обвинявайки ги в незаконно използване на новинарски статии за обучение на асистенти с изкуствен интелект. Alden твърди, че тези компании обработват милиони техни материали, защитени с авторски права без разрешение.

В Нова Зеландия водещият издател на новини Stuff през 2023 година забрани на ChatGPT да използва неговите публикации. Както показва последващо проучване, след това решение видимостта на съдържанието на Stuff в търсачките е спаднала драстично.

Анализът на резултатите от търсенията на Microsoft и Google, както и отговорите на техните чатботове Copilot и Gemini, разкри тревожна тенденция. Разнообразието на източниците в резултатите от търсенето по принцип намалява. Въпреки че традиционните медии все още присъстват в резултатите, делът на „други източници“ е нараснал значително през последната година.

Особено важен е видът на ресурсите, които системите с изкуствен интелект предлагат като подходящи новини. Все по-често в изходните данни се появяват връзки към неосновни сайтове – малки браншови форуми и корпоративни прессъобщения.

Проблемът се задълбочава от факта, че чатботовете Gemini и Copilot често предоставят неактуална информация, не предоставят връзки към първоизточници и не посочват откъде са взети данните. Когато бъдат помолени да посочат източниците си, те обикновено избягват директен отговор.

Експертите призовават потребителите да оценяват критично информацията, получена чрез търсачките с изкуствен интелект и чатботовете. Макар че в бъдеще системите може да станат по-точни, в момента тяхната надеждност е силно съмнителна.