130 000 диалога с AI чатботовете Grok, Claude и ChatGPT са свободно достъпни

Изследовател, използващ псевдонима dead1nfluence е открил, че Internet Archive съдържа над 130 000 записани разговора с популярни чатботове с изкуствен интелект – включително Claude, Grok, ChatGPT и други. Това означава, че при неправилни настройки за публикуване потребителите могат по невнимание да оставят диалозите си в публичното пространство, където те могат да бъдат запазени и прегледани от всеки.

Според dead1nfluence той е успял да получи активни линкове към диалози с Grok, Mistral, Qwen, Claude и Copilot.

В извадката е имало и материали, свързани с ChatGPT, но според него OpenAI е премахнала линковете във формат chatgpt.com/share, поради което те вече не се появяват в Internet Archive, докато резултатите за Grok например все още са достъпни. В своя блог изследователят посочва, че в редица разговори е било възможно да се намерят публични API ключове и друга чувствителна информация, потенциално полезна за нападателите.

Специалистът отбеляза, че макар доставчиците на услуги да предупреждават, че публикуваните линковете стават достъпни за всички, повечето потребители едва ли са очаквали, че тези материали могат лесно да бъдат намерени и разгледани в отворените архиви. Според него подобна съкровищница от данни може да бъде ценна както за нападателите, така и за специалистите по киберсигурност. Наличието на достъп до него им позволява да се насочват към компании и да идентифицират случаи, в които техни служители може да са разкрили по невнимание вътрешни данни.

Медиите провериха някои от намерените линкове, като потвърдиха автентичността на някои фрагменти, включително документи с условия за неразкриване на информация, обсъждания на договори и дори искания, свързани с личното положение на потребителите. Повечето от компаниите, чиито услуги са попаднали в извадката не са отговорили на исканията за коментар.

Microsoft, която е собственик на Copilot получи запитване, но не беше предоставила отговор до момента на публикуването. Представители на Anthropic, която разработва Claude заявиха, че компанията не споделя с търсачките карти на страниците или директории на чатовете, а връзките не могат да бъдат отгатнати, освен ако самите потребители не ги разпространят. Въпреки това всеки публикуван материал може да бъде архивиран от ресурси на трети страни.

Проблемът с индексирането на чатове с ChatGPT за първи път беше широко обсъден след публикацията във Fast Company.

Той възникна заради функцията, която позволяваше споделяне на линк към кореспонденция, която можеше да бъде добавена към индекса на Google, ако собственикът пожелае. Впоследствие OpenAI деактивира тази опция, като обясни, че това е краткосрочен експеримент за улесняване на споделянето на полезни разговори, изискващ от потребителя ръчно да избере чат и да потвърди индексирането.

Отделен източник, пожелал да запази анонимност предостави на медиите база данни с почти 100 000 диалога в ChatGPT, които търсачката на Google е успяла да индексира. В тях имало текстове на поверителни споразумения, описания на затворени проекти и лична кореспонденция. Подобни архиви на разговори с LLM-системи, както се оказа, се съдържат и в други сегменти на интернет архива.