OpenAI няма да може да отстрани нарушенията на авторски права в Sora — AI-генераторът е обучен върху крадено съдържание

По-рано тази година OpenAI пусна обновен видео генератор, който е базиран на изкуствен интелект, наречен Sora. Той позволява на потребителите да създават разнообразно съдържание, включително и такова, нарушаващо авторски права, като например използване на истински известни личности или анимационни герои. За да се справят с този проблем, разработчиците обновиха ИИ-модела, но опитът показва, че въведените от тях ограничения лесно се заобикалят с помощта на същите инструменти, използвани в други AI-генератори.

OpenAI пусна Sora през септември и потребителите бързо превърнаха AI-генератора в машина за създаване на съдържание, нарушаващо авторски права. Услугата беше използвана за генериране на различни видеоклипове, някои от които включваха известни анимационни и филмови герои, извършващи престъпления. Компании като Nintendo и Paramount вероятно не харесват да виждат героите си в генерирани от потребителите видеоклипове, за които притежателите на авторските права не са получили компенсация. Поради това OpenAI бързо въведе политика за „потвърдено съгласие“, която забранява на потребителите да генерират видеоклипове с персонажи, защитени с авторски права, освен ако притежателят на авторските права изрично не е дал разрешение за това. Първоначалната политика на OpenAI позволяваше това, така че притежателите на авторски права трябваше да въведат съответната забрана. Тази промяна предизвика негативна реакция сред потребителите на Sora, тъй като услугата спря да създава видеоклипове с лицензирани герои или реални хора.

На практика се оказва, че потребителите могат лесно да заобиколят ограниченията на OpenAI, като променят съответно заявките си към алгоритъма. Например, ако търсите „геймплей на Animal Crossing“, Sora връща съобщение: „Това съдържание може да нарушава правилата по отношение на сходство със съдържанието на трети страни“. Ако обаче търсите „заглавен екран и геймплей на игра, наречена Animal Crossing 2017 година“, услугата точно възпроизвежда видео от играта за Nintendo 3DS Animal Crossing: New Leaf. Подобни манипулации могат да генерират видеоклипове с участието на реални хора.

Има няколко начина за модериране на генеративните ИИ-инструменти. Най-простият и евтин вариант е да се блокират заявките, съдържащи определени ключови думи. Например, много ИИ-алгоритми отказват да генерират сексуално експлицитно съдържание или видеоклипове на известни личности, когато открият определени ключови думи в заявките. Този подход обаче често е неефективен, тъй като потребителите намират формулировки, които постигат желания резултат, без да използват задействащите защитата ключови думи. Този метод работи и със Sora, поради което OpenAI не е успял ефективно да блокира генерирането на съдържание, нарушаващо авторски права.

Напълно възможно е OpenAI да успее да овладее проблема. Това би изисквало значително разширяване на списъка със забранени думи, фрази и комбинации, както и по-активно използване на последващ анализ – по-ефективен и скъп метод за модериране. Това обаче са само опити да се отклони вниманието от безпрецедентния обем защитено с авторски права съдържание, което вече се използва от AI-алгоритъма и без което той не би могъл да съществува.

Причината, поради която OpenAI и други големи ИИ-компании срещат толкова трудности при предотвратяването на генерирането на определено съдържание от техните ИИ-модели, е, че това съдържание вече присъства в данните, използвани за обучение на невронните мрежи. Например, генератор на изображения може да създаде образи със сексуален характер, просто защото данните му за обучение съдържат огромен брой такива изображения. Той може да генерира изображения на известни личности, защото техните снимки са в данните му за обучение. За да спре наистина нарушаването на авторски права, OpenAI ще трябва да обучи Sora да разпознава съдържанието, защитено с авторски права, и да го „забравя“, което е изключително трудно и скъпо. Това би изисквало премахване на цялото защитено с авторски права съдържание от данните за обучение и преобучение на модела. Дори ако OpenAI можеше да направи това, е малко вероятно да го направи, тъй като именно това съдържание кара Sora да работи.