„Опасен“ изкуствен интелект предлага писане на фалшиви новини

Система базирана на изкуствен интелект, която предлага генериране на реалистични истории, стихове и статии, за която някои твърдят, че е почти толкова добра, колкото и реален писател, получави нова актуализация.

Текстовият генератор, изграден от изследователската фирма OpenAl, първоначално се смяташе за „твърде опасен“, за да бъде публично достояние поради риска от евентуални злоупотреби.

Но сега е пусната нова, подобрена версия на системата, която може да се използва за писане на фалшиви новини или спам за социалните мрежи и имейл.

BBC, заедно с някои Al експерти, решиха да изпробват системата.

Моделът, наречен GPT-2 e обучен на база осем милиона уеб страници и е в състояние да се адаптира към стила и съдържанието, на първоначално зададения му текст.

Той може да напише дори Шекспирова поема, както и да пише статии и проза.

По това време фирмата заяви: „Поради нашите опасения относно злонамерените приложения на технологията, ние не предлагаме обучения модел. Като експеримент за отговорно разкриване, вместо това пускаме много по-малък модел, с който изследователите да експериментират.“

В резултат на това, пуснатата версия има далеч по-малко инструменти и параметри – може да съставя фрази и изречения, подобни на използваните по време на обучението ѝ. Този месец OpenAl реши да разшири параметрите и възможностите на системата, предлагайки ѝ много по-голяма база данни за обучение.

Сайтът за технически новини The Next Web каза за актуализацията: „Тази нова версия работи достатъчно добре, за да се използва като общ изкуствен интелект за генериране на текст… Почти.“.

Авторът на статията Тристан Грийн добави: Ужасявам се от GPT-2, защото той представлява вида технология, която злонамерено може да се използва за манипулиране на населението – и според мен това го прави по-опасен от всяко оръжие. „

BBC реши да тества системата, като генерира първите няколко изречения за своя статия, подходяща за Al. Започнали са с първото изречение от достоверна своя статия със заглавие „Китайската търсачка Sogou създава lookalikes за изкуствен интелект, за да направи аудиокниги по популярни романи.“

Ето какво сътвори текстовия генератор:

„Според изследователите този метод на четене е не само лоното на аудиокнигите за потребителите на Amazon Kindle. Потребителите на устройства с Android също са забележителен пазар за машинно четене. Има няколко теории, които обясняват това.

Първо, устройството в ръка на потребителя е различно от таблета или компютъра, на който чете. Второ, устройството, използвано за достъп до Интернет, може да бъде модифицирано по някакъв начин. Трета причина е, че потребителят може просто да копира и постави съдържание директно във своите виртуални герои.

Друго обяснение обаче е, че устройството изобщо няма възможности за разпознаване на глас. В такъв случай разпознаването на глас е по-напреднало от механизма на Google за преводи. Като такива, тези потребители са подмамени да мислят, че четат от истински автор – книгата е направена така, че да звучи автентично веднага щом се опитат и четат.“

Това представлява генерираната от изкуствения интелект статия. Тя далеч не е съвършена и е изпълнена с логически и смислови грешки, но все пак имаме предвид, че това е орязаната версия, която OpenAl пуска свободно, като част от стратегията си за отговорно разпространение.

Ноел Шарки, професор по компютърни науки в Университета в Шефилд, проведе собствени тестове на генератора и не беше особено впечатлен.

Ако софтуерът работеше по предварителния стандарт, достигнат от Open AI, той би бил много полезен инструмент за лесно генериране на фалшиви новини и спам кликбейт. За щастие, в сегашния си вид той генерира несъвместим и комичен текст с малка точност към зададената тема на текста.

Ноел Шарки казва:

„Тествах софтуера с множество заглавия и получих смешни резултати. Например, „Пуйки мразят Коледа“, разбрах, че „Турция е единствената нация в света, която не празнува Коледа“ и редица несвързани изречения.