Журналист показа, че водещите системи с изкуствен интелект на OpenAI и Google могат лесно да бъдат принудени да публикуват невярна информация. Според него това му е отнело само 20 минути: той е публикувал фалшива статия на своя уебсайт, а на следващия ден AI е говорил за своите „суперсили“ в яденето на хотдог, съобщава BBC.
Проблемът се крие във факта, че някои AI инструменти търсят информация в интернет, когато данните в обучаващия модел са недостатъчни. Авторът на експеримента се е възползвал от тази особеност, като е създал статия, в която е измислил фалшиви състезания по ядене на хотдог.
Резултатът показа, че дори големи AI системи могат лесно да разпространяват лъжи, като се позовават на източник, който всъщност е единственият в мрежата. Експертите отбелязват, че този проблем е много по-сериозен от шегата с хотдога. Изкуственият интелект може да разпространява необективна информация за здравето, финансите и други важни области, което може да доведе до грешни решения от страна на потребителите – от избори до медицински консултации.
„Много по-лесно е да заблудите изкуствения интелект, отколкото Google преди две-три години. Компаниите се движат по-бързо, отколкото могат да контролират точността на отговорите си. Това е опасно.“
казва Лили Рей, експерт по SEO
Google и OpenAI казват, че са наясно с проблема и работят по решение. Въпреки това защитата на потребителите все още не е завършена и AI продължава да произвежда невярна информация с авторитетен тон, която подвежда потребителите. Експертите съветват да проверявате източниците, да преценявате тяхната достоверност и да не се доверявате автоматично дори на информация, която изглежда като официална.
Този случай подчертава рисковете от масовото използване на AI при търсенето на информация и необходимостта от внимателно наблюдение на работата му. Проблемите с манипулирането могат да засегнат всяка област – от рекламата до сериозни здравни или финансови проблеми, а критичното мислене остава основният инструмент за безопасност на потребителите.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
