Краят на анонимността: ИИ моделите вече деанонимизират потребителите с плашеща прецизност

Изследователи предупреждават за нова заплаха за неприкосновеността на личния живот онлайн. Големите езикови модели могат да идентифицират анонимните потребители в социалните мрежи, дори ако те крият своите данни. ИИ може да съпостави анонимните акаунти с реалните хора много по-ефективно от класическите методи за обезличаване. Броят на потребителите, разкрити от ИИ по време на експериментите, достига 68%, а точността – до 90%.

Изследователи проведоха серия от експерименти, за да оценят възможностите на съвременните големи езикови модели (LLM) за деанонимизиране на потребители на социални медии. За целта те събраха няколко набора от данни от публично достъпни източници, включително профили и постове в Hacker News, LinkedIn, както и коментари в Reddit и данни от Netflix, съдържащи микроидентификатори като индивидуални предпочитания и препоръки. Преките идентификатори на потребителите бяха премахнати, за да се спази поверителността на личните данни.

При първия експеримент бяха използвани анкети на 125 участници относно ежедневното им използване на ИИ. Моделът извлече ключовите атрибути (образование, професия, инструменти и местоположение) от отговорите и автоматично ги съпостави с публичните онлайн профили, като по този начин точно идентифицира 7% от участниците.

При втория експеримент изследователите анализираха коментарите на потребителите на Reddit в r/movies и пет други тематични подгрупи. Моделът е съпоставил обсъжданите филми с другите налични данни. Колкото повече постове за филми е публикувал даден потребител, толкова по-голяма е вероятността той да бъде идентифициран. Така например потребителите, които са обсъждали десет или повече филма, са били идентифицирани с точност до 90% в 48,1% от случаите и до 99% в 17% от случаите.

В третия експеримент моделът е тестван върху голям и зашумен набор от данни. Към 5000 реални профила бяха добавени 5000 акаунта за „отвличане на вниманието“ и резултатите бяха сравнени с класическата атака, базирана на набор от данни Netflix Prize. Резултатите показаха, че LLM се представят много по-добре – точността им намалява по-плавно, а пълнотата им е значително по-висока, особено при допълнителните стъпки „Разсъждение“ и „Калибриране“. Дори една обикновена LLM атака е в състояние да идентифицира значителен брой потребители, превъзхождайки традиционните методи, изискващи много ресурси.

Последиците за неприкосновеността на личния живот са ясни: псевдонимите, които дълго време бяха мярка за защита на личния живот, вече не гарантират сигурността.

Потребителите, които публикуват анонимно, рискуват разкриване на самоличността, евентуално преследване, проследяване на местоположението, професията и интересите. Технологиите за деанонимизация могат да се използват от правителствата за идентифициране на критици, от корпорациите – за таргетирана реклама, а от нападателите – за персонализирани схеми за измама.

Изследователите предлагат няколко мерки за защита: ограничаване на степента на достъп до потребителските данни чрез API, наблюдение на автоматичното събиране на информация, създаване на вградени механизми за защита в LLM и редовно изтриване на старите публикации.