„Писател“ стана експерт по всичко само за една година, благодарение на изкуствен интелект

Обществените библиотеки са изправени пред ново предизвикателство – лавина от нискокачествени книги, създадени с помощта на изкуствен интелект. Тези книги си проправят път в цифровите каталози, усложнявайки работата на библиотекарите, които или трябва ръчно да проследяват появата им, или да се примирят с нарастващите разходи за съмнително съдържание.

Повечето библиотеки използват услугите OverDrive и Hoopla за управление на електронни книги. В OverDrive библиотекарите могат да избират кои от наличните заглавия да бъдат предлагани на читателите. В Hoopla няма такава възможност – платформата предоставя достъп до целия каталог наведнъж, а библиотеките плащат за всяка заета от потребителя книга. Единственият ограничителен инструмент е да се зададе лимит на цената на книгите, например не повече от 5 долара на брой. В резултат на това в колекциите попадат хиляди нискокачествени заглавия, включително книги, създадени от изкуствен интелект.

Примери за такива книги са готварската книга Fatty Liver Diet Cookbook на несъществуващата вече авторка Магда Танги, чийто профил в Amazon се оказа генериран от невронна мрежа. В каталога са включени и книги с изкривен текст, странни илюстрации и подозрителни автори, зад които не стоят реални хора.

Системата Hoopla, която позволява качването на почти всякакво съдържание доведе до появата на дезинформационни и книги, съдържащи невярна информация в библиотеките. Това буди загриженост у библиотекарите, тъй като потребителите очакват, че цялата литература в каталозите е преминала поне през минимална проверка. Освен това някои от книгите могат да съдържат опасни съвети за хора с определени заболявания.

Освен това в каталозите редовно се появяват книги, чиито автори създават десетки заглавия за кратък период от време на различни теми – от готварство до биографии на известни личности. Бил Тарино например е издал близо 40 книги за една година, включително сборници с цитати на Илон Мъск, наръчници по психология и наръчници по домашна сигурност.

Един от най-големите разпространители на нискокачествено съдържание е IRB Media, издател на стотици обобщени версии на популярни книги, вероятно създадени от изкуствен интелект.

Произведенията на издателството препълват библиотечните каталози и се появяват в резултатите от търсенето по-често от оригиналите. Читателите могат случайно да вземат резюме вместо пълната версия на книгата, да се разочароват и да пропилеят бюджета на библиотеката.

През 2022 година Library Futures и Library Freedom Project поискаха от OverDrive и Hoopla да премахнат от каталозите си книги, които разпространяват дезинформация, включително текстове на десни издателства. В отговор Hoopla обеща да подобри алгоритмите си за филтриране, но доколко ефективни са тези мерки, остава под въпрос. Някои библиотекари съобщават, че при търсене по ключови думи като „хомосексуализъм“ или „аборт“ се появяват предимно религиозни пропаганди, а не научни публикации.

Библиотекарите се опасяват, че обсъждането на този въпрос може да предизвика критики от страна на активисти, борещи се срещу цензурата. Призивът обаче не е свързан със забрани – библиотекарите настояват за прозрачност от страна на платформите, за да могат да следят качеството на предоставяното съдържание. Hoopla и OverDrive не са коментирали ситуацията. Библиотекарите обаче продължават да настояват платформите да добавят инструменти за филтриране и ясно да обозначават книгите, създадени с помощта на изкуствен интелект.