OpenAI разглежда активно възможността за използване на криптографски воден знак в текстовия изход на ChatGPT. Това ще улесни откриването на текст, създаден от чатбота с изкуствен интелект. Идеята е да се гарантира, че с инструмента не се злоупотребява по начин, по който не би трябвало.
Например при писане на реферати за училище или университет.
Криптографският воден знак е вид цифров воден знак, който се вгражда в цифров файл или сигнал с помощта на криптографски техники. Цифровите водни знаци се използват за идентифициране на собствеността или произхода на цифров файл или сигнал.
Често се използват за защита срещу неразрешено използване или разпространение на цифрово съдържание.
Много такива водни знаци се срещат в снимките и видеоклиповете, но OpenAI говори за разработване на криптографски воден знак, който се интегрира в текста, който ChatGPT извежда.
Как това би могло да се осъществи, без да се повлияе на извеждания текст?
Реалността е, че текстът е толкова отворен и безкраен, че е много възможно да се включи незабележим криптографски код, без това да повлияе на начина, по който се чете текстът.
Всъщност съдържанието, генерирано от изкуствен интелект, следва предсказуем модел в начина, по който използва думите. Доста лесно е да го разпознаете, ако знаете какво да търсите.
OpenAI ще вгради умишлено елемент от тази предсказуемост по незабележим начин.
Както е описано в списание Search Engine Journal от Скот Аарънсън от OpenAI, който е натоварен с осигуряването на безопасността и съгласуването на изкуствения интелект в компанията, този процес се нарича псевдослучайно разпределение.
Псевдослучайност е, когато поредица от думи или числа изглежда случайна, но всъщност не е истински случайна. Това ни позволява да маркираме съдържание, генерирано от ИИ, без да нарушаваме външния вид на текста. Аарънсън пише за работата, която върши за OpenAI, в собствения си блог, като казва:
Основният ми проект досега беше инструмент за статистическо маркиране на резултатите от текстов модел като GPT. В общи линии, когато GPT генерира текст, искаме в избора на думи да има незабележим по друг начин таен сигнал, който да може да се използва по-късно, за да се докаже, че да, това е от GPT.
Идеята все още е в доста начален етап. И вече има идеи как да се заобиколи.
Прост начин да се заобиколи този вид воден знак би бил да се пусне текстът през друг протокол за генериране на текст. Да се поиска от него да пренапише текста. Това може да звучи глупаво, но би предложило на потребителя възможността да генерира текст, като премахне необходимостта да го пише сам, а след това заобиколи потенциалната функция за безопасност.
Към момента все още НЕ се поставя воден знак върху генерирания от ChatGPT текст.