В днешно време хората често използват анонимни или фалшиви акаунти в онлайн дейността си, с надеждата да скрият самоличността си. Тази мярка обаче скоро ще се окаже безполезна, понеже че големите езикови са способни ефективно да разкриват фалшификатите и в значителен брой случаи да определят истинския собственик на фалшивия акаунт.
За да открият фалшив акаунт и да определят истинския му собственик, AI моделите използват редица идентифициращи сигнали – това могат да бъдат фрагменти или големи обеми идентични данни, както и отличителни белези на поведение.
До този резултат са стигнали изследователи от Швейцарският федерален технологичен институт в Цюрих (ETH Zurich), независимата образователна и научноизследователска програма MATS, както и компанията Anthropic.
„Нашите заключения са от голямо значение за поверителността в интернет. Средностатистическият потребител на мрежата дълго време е действал в съответствие с неявния модел на заплахи, предполагайки, че псевдонимите осигуряват адекватна защита, защото целенасочената деанонимизация изисква значителни усилия. Големите езикови модели опровергават това предположение.“
пишат учените
В рамките на изследването, в 68% от случаите AI моделите успешно са определени фалшивите профили, а в 90% от тях са посочили верните им собственици.
Откритието на учените може да има последствия не само за тези, които пишат под чужди имена в социалните мрежи. AI теоретично е в състояние да разкрива истинските имена на хакерите, които публикуват поверителна информация за служители на компании и на тези, които задават въпроси в отворени форуми. Понякога под чужди имена в социалните мрежи пишат и ръководители на компании, които се стремят да промотират своя бизнес или да нанесат щети на конкурентите си – в такива действия по-рано се призна дори най-богатият човек на Земята Илън Мъск. Освен това AI е в състояние да разкрива имената на онези, чийто живот може да зависи от анонимността: информатори, активисти или жертви на насилие.
За да защитят хората от деанонимизация с помощта на AI, учените предложиха няколко защитни мерки: да се ограничи достъпът до потребителски данни чрез API на платформите, да се подобрят механизмите за откриване на автоматизирано събиране на информация и да се ограничи износът на големи обеми данни. Както обаче признават изследователите, тези мерки не дават гаранции за успех. В близките години, ако не и месеци ще става все по-трудно AI да бъде възпрепятстван да извършва тези операции.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
