Google пусна технология за поставяне на воден знак на текст, генериран от ИИ

Google представи технология за маркиране на текст, създаден от изкуствен интелект. Инструментът, наречен SynthID Text няма да повлияе на качеството и скоростта на генериране на съдържание и ще бъде достъпен напълно безплатно за разработчици и компании.

SynthID Text може да бъде изтеглен от ИИ-платформата Hugging Face и актуализирания Responsible GenAI Toolkit на Google.

SynthID Text работи по следния начин: когато генерира текст, ИИ-моделът прогнозира кой „токен“ (символ или дума) ще бъдещ следващ въз основа на вероятността за появяване на всеки маркер и добавя допълнителна информация към разпределението на тези вероятности чрез модулиране на коригираните знаци. В крайна сметка се образува воден знак, който помага да се определи дали текстът е създаден от ИИ.

„Окончателният модел на вероятностите за думи, избран от ИИ-модела, комбиниран с модифицираните оценки на вероятността, ще се счита за воден знак.“

обяснява компанията в публикация в блога си

Google твърди, че SynthID Text, който първоначално беше интегриран в Gemini през пролетта не влияе на качеството, точността или скоростта на генериране. Въпреки това текстът, който е бил съкратен, перифразиран или променен може да бъде обработен малко по-лошо. Що се отнася до фактите, отговорите на въпроси, които са твърде конкретни и недвусмислени предоставят по-малко възможности за коригиране на разпределението без да се компрометира фактическата точност.

Струва си да се отбележи, че Google не е единствената компания, която работи върху технологията за поставяне на воден знак на текст, генериран от ИИ. Например OpenAI също разработва методи за прилагане на водни знаци, но забави пускането им поради технически пречки и търговски съображения.

Ако технологията бъде широко възприета, тя може да обърне вълната срещу неточни, но все по-популярни „ИИ-детектори“, които погрешно идентифицират студентски работи или есета като генерирани от ИИ. Както пише TechCrunch, въпросът остава отворен. Някои държави обаче вече предприемат действия. Например, китайското правителство въведе задължително етикетиране на съдържание, генерирано от ИИ, а щатът Калифорния (САЩ) е на път да последва този пример.

Според доклад на Европол, 90% от онлайн съдържанието може да бъде синтетично генерирано до 2026 година, което води до нови предизвикателства пред правоприлагането около дезинформацията, пропагандата, и измамите. Вече почти 60% от цялото съдържание в мрежата може да е генерирано от ИИ, според проучване на AWS — благодарение на широкото използване на преводачи с изкуствен интелект.