Чатботовете жертват истината в името на убедителността

Учените установиха, че AI моделите стават все по-убедителни в диалога, но способността им да работят с точни факти намалява. Мащабно проучване показва, че само за 10 минути разговор чатботовете могат да променят мнението на човек, използвайки мощна аргументативна техника – лавина от факти и цифри, някои от които обаче се оказват недостоверни.

По-рано експертите смятаха, че AI може да се бори с дезинформацията, като опровергава митовете и конспиративните теории в социалните медии, като тези за кемтрейлсите и плоската Земя. Ново проучване обаче показва обратната страна:настоящите модели могат да убеждават хората, като жертват точността на фактите.

Изследователският екип е тествал 19 езикови модела върху близо 80 000 участници. От ботовете е било поискано да убедят потребителите в необходимостта от финансиране на здравеопазването или от промяна на имиграционната политика. В рамките на 10 минути чатботовете генерираха до 25 твърдения, като затрупаха участниците с поток от факти и статистически данни – техника, известна като „Gish galloping“. По този начин точността на фактите намалява. Например GPT-4 спадна от 78% на 62%.

„Еднократното“ статично съобщение на изкуствения интелект от 200 думи нямало забележим ефект. Десетминутно взаимодействие в диалогов формат от около седем реплики е било много по-убедително. То е имало траен ефект върху мнението на участниците.

Въздействието на тази техника зависи от това дали ботовете действително могат да взаимодействат с хората. Не е възможно да се промени самият ChatGPT, който се използва от 900 милиона души всяка седмица, но е възможно да се създаде основен езиков модел, който да работи на уеб сайта, под формата на бот за помощ или чрез кампании за текстови съобщения. Кампания със средни ресурси може да внедри подобна система за няколко седмици на цена от около $50 000, но поддържането на дългосрочна ангажираност с аудиторията ще бъде трудно.

Този тип технологии могат да се използват за популяризиране на идеологии, създаване на политически вълнения и дори дестабилизиране на публичните институции.