Станфорд доказа, че ИИ пише жалбите на бедните и докладите на ООН

Можем ли да вярваме на това, което четем?

Само за две години след пускането на ChatGPT изкуственият интелект стана незабелязан съавтор на милиони текстове – от жалби до финансови организации до корпоративни изявления за пресата и съобщения на ООН. Изследване на учени от Станфордския университет за първи път показа мащаба на това явление, като анализира над 1,5 милиона документа от четири различни области – жалби на потребители, корпоративни публикации, обяви за работа и съобщения за международната преса.

Изследователите стигнаха до извода, че до края на 2024 г. 18% от жалбите на потребители в САЩ, 24% от корпоративните прессъобщения, почти 10% от обявите за работа в малките компании и 14% от докладите на ООН са съдържали текстове, изцяло или частично създадени с участието на езикови модели. Този резултат отразява нещо повече от нова технологична тенденция – той показва колко дълбоко генеративният изкуствен интелект е навлязъл в обществените комуникации.

Анализът обхваща периода от януари 2022 г. до септември 2024 г. и разкрива характерна динамика: рязко нарастване на интереса към LLM 3-4 месеца след стартирането на ChatGPT през ноември 2022 г. и постепенното изравняване на темповете до края на 2023 г. При финансовите жалби например делът на автоматизираните текстове нарасна от 1,5% до почти 18%, а при съобщенията за корпоративната преса – от 2-3% до една четвърт от всички публикации. В същото време младите компании са особено активни в използването на ИИ: организациите, основани след 2015 г., използват генератори на текстове в обявите за работа два пъти по-често от по-старите си колеги, а фирмите с малък брой служители – по-често от големите корпорации.

Съобщенията за пресата от ООН, където ръчното съдържание традиционно е високо, също показват бързо нарастване на автоматизацията. Докато в началото на 2023 г. само 3% от съобщенията са били частично създадени с помощта на изкуствен интелект, до есента на 2024 г. тези материали стават почти 14%, а в някои регионални офиси – до 20%. Авторите на изследването предполагат, че в кризисни ситуации езиковите модели са помогнали за ускоряване на публикуването на новини и доклади, което ги е направило полезен инструмент дори в международните структури.

Интересно е, че на ниво потребители се наблюдава обратното на обичайното цифрово разделение. В регионите с по-ниско ниво на образование делът на жалбите, написани с помощта на изкуствен интелект, е по-висок – около 20% спрямо 17% в по-образованите райони. Изследователите обясняват това с факта, че езиковите модели всъщност понижават бариерата пред официалните жалби, като позволяват на хората да формулират по-точно жалбите и да описват проблемите.

В бизнес средата езиковите модели се използват за ускоряване на рутинните публикации, особено в категориите бизнес и финанси и наука и технологии. Компаниите се стремят да повишат ефективността и да намалят разходите за съдържание, но изследователите отбелязват и отрицателните страни: прекалената автоматизация може да доведе до безлични текстове и да намали доверието в корпоративните послания.

На пазара на труда автоматизираното писане вече променя процеса на наемане. Възможно е генерираните от изкуствен интелект свободни позиции да изглеждат по-хомогенни, което, по наблюдения на изследователите, пречи на кандидатите да разберат реалните изисквания на работодателя. По-младите компании са по-склонни да експериментират с такива инструменти, докато по-старите йерархични структури са по-предпазливи – вероятно поради регулаторните ограничения и опасенията за репутацията.

Екипът от Станфорд подчертава, че постигнатите стойности са само най-ниската оценка на реалния мащаб. Съвременните езикови модели все по-трудно се различават от човешките, което означава, че значителна част от текстовете с изкуствен интелект могат да останат неоткрити дори при статистическите анализи.

Основният извод от статията е, че генеративният ИИ вече не е нишов инструмент и се е превърнал в масов елемент на ежедневната комуникация. Той вече оказва влияние върху бизнес стратегията на компаниите, прозрачността на правителствените комуникации и дори върху начина, по който гражданите изразяват недоволство от системата. Следващата стъпка, според авторите, ще бъде да се оцени не само обхватът, но и последиците от тази „втора грамотност“ – когато всеки може да пише и е почти невъзможно да се определи кой го е написал.