OpenAI започна да губи цени кадри след стартирането на рекламите в ChatGPT

Изследователката от OpenAI Зоуи Хитциг подаде оставка от компанията в същия ден, в който започва тестването на показването на реклами в ChatGPT. Докато е работила в компанията, тя е помагала за създаването на големи езикови модели и е определяла цените им. Тя предупреди, че OpenAI рискува да повтори грешките, които Facebook направи преди десет години.

Поддържаното от реклами начинание изглежда особено рисковано поради естеството на данните в платформата ChatGPT. Потребителите споделят с чатбота медицинска информация, проблеми във взаимоотношенията и религиозни убеждения – често „защото хората вярват, че разговарят с нещо, лишено от скрити мотиви“ и в резултат на това платформата се е превърнала в „безпрецедентен архив на човешката откровеност“. Според Хитциг, нещо подобно се е случвало и във Facebook – някога социалната мрежа е обещавала на потребителите контрол върху данните им и възможност да гласуват за промени в политиката. С течение на времето тези обещания отслабнаха и Федералната търговска комисия (FTC) установи, че промените в политиката за защита на личните данни, с които Facebook обещаваше на хората по-голям контрол, всъщност се обърнаха срещу тях. Изследователката не изключва подобно нещо да се случи и с OpenAI, защото последната „създава силни стимули да нарушава собствените си правила“.

Във фазата на тестване персонализирането на рекламите за потребителите е разрешено по подразбиране, според документацията на OpenAI. Ако тази настройка остане непроменена, рекламите ще бъдат адаптирани въз основа на данни от текущи и минали чатове, както и от минали взаимодействия с реклами.

Рекламодателите няма да имат достъп до кореспонденцията на потребителите с чатбота или до личните им данни. Рекламите няма да се показват в чатове за здраве, религия или политика. Хитциг вече е забелязала вътрешно противоречие в това: от една страна, компанията настоява, че не се опитва да влияе върху активността на потребителите единствено с цел генериране на приходи от реклами – от друга страна, тя оптимизира поведението на AI за ежедневно активните потребители, като го прави „по-ласкаво и послушно“. В резултат на това хората могат да се пристрастят към изкуствения интелект. Освен това са документирани случаи на психоза, свързана с ChatGPT, а в някои случаи чатботът е изпадал в мисли за самоубийство – косвено подкрепено от множество съдебни дела срещу OpenAI.

За да се противодейства на заплахите, Хитциг предлага схеми за субсидиране на потребителите от корпоративни клиенти. Създаване на независими съвети, които да имат право да контролират използването на данни за кореспонденция за насочване на рекламата и тръстове, които позволяват на потребителите да запазят контрола върху своята информация. Експертът описа най-опасните резултати като „технология, която манипулира хората, които я използват безплатно и технология, която облагодетелства само малцинството, което може да си я позволи“.