Мъж в Китай е задържан заради генериране фалшиви новини с помощта на ChatGPT

Властите в северозападната провинция Гансу в Китай са задържали мъж, за когото се твърди, че е използвал ChatGPT за създаване на фалшиви новини и разпространението им онлайн, съобщи South China Morning Post. Това вероятно е първият случай в страната, в който е извършено задържане, свързано с използването на чатбот с изкуствен интелект.

През последните няколко месеца популярността на чатботовете с изкуствен интелект рязко нарасна, а мнозина изразиха загриженост относно злоупотребата с технологията.

Китайският интернет регулатор също изрази загриженост относно използването на технологията за създаване на deepfake-ове за клевета или онлайн измами. Той е въвел мерки като „ясно етикетиране“ на видеоклипове и снимки, направени с помощта на технологията и пуснати в публичното пространство.

Изкуствен интелект за генериране на фалшиви новини

Според доклада на SCMP служителите на окръжно полицейско бюро са се натъкнали на фалшива новина за местна влакова катастрофа, при която 9 души са загубили живота си. При по-нататъшното разследване е установено, че статията е публикувана от над 20 акаунта в блог платформата Baijiahao, която Baidu управлява.

Когато властите забелязали новината, тя е имала над 15 000 посещения. Те проследили произхода на историята до компания, собственост на заподозрения, която управлява медийни платформи в Южен Китай. По време на обиск в дома на заподозрения полицията открила компютър и го задържала.

Според признанието на мъжа, той е заобиколил проверката за дублиране в платформата, като се е сдобил с няколко акаунта и е публикувал чрез тях. Той също така признава, че е използвал елементи от различни подобни истории, за да създава различни версии на една и съща история с помощта на ChatGPT и след това да ги качва в платформата.

ChatGPT не е пряко достъпен за потребителите в Китай, но все пак може да бъде достъпен за тези, които разполагат с надежден VPN. Предполагаемото престъпление на този мъж може да му донесе 5 години затвор. Ако се счита за тежко престъпление, присъдата може да бъде удължена до 10 години заедно с допълнителни наказания.

Западните платформи за социални медии като Twitter и Facebook също въведоха някои мерки за засичане и предотвратяване на разпространението на фалшива информация, създадена с помощта на изкуствен интелект. Досега това не е довело до никакви арести.