OpenAI заяви, че няма да използва водни знаци в текстовете на ChatGPT

OpenAI обяви, че няма да използва водни знаци върху текстовете на ChatGPT.

Тъй като някои потребители на ChatGPT заявиха, че ще използват ChatGPT по-малко, ако водните знаци са активирани върху текстовете на ChatGPT, компанията отговори.

Водните знаци в ChatGPT

OpenAI има система за воден знак на текста, генериран от ChatGPT, и инструмент за откриването им от около година, според The ​​Wall Street Journal. Но компанията е разделена вътрешно дали да ги пусне.

От една страна, това изглежда като отговорно решение; от друга страна, това може да повлияе негативно върху печалбите на компанията.

Водните знаци на OpenAI се описват като настройка на начина, по който моделът предвижда най-вероятните думи и фрази, които ще последват предишните, като по този начин създават откриваем модел.

Запитване: Кой има нужда от водни знаци в ChatGPT

Осигуряването на какъвто и да е начин за откриване на написания с AI материал е потенциална полза за учителите, които се опитват да обезсърчат учениците да използват AI за писмени задачи.

The Wall Street Journal съобщава, че компанията е установила, че водните знаци не са повлияли върху качеството на изходния текст от чатбота. В проучване, поръчано от компанията, „хората по света подкрепиха идеята за инструмент за откриване на изкуствен интелект с разлика четири към едно“ — пише вестникът.

След публикуването на статията от изданието, OpenAI потвърди, че работи върху текстов воден знак в своя блог публикация днес, която беше забелязана от TechCrunch.

В нея компанията казва, че методът ѝ е много точен („99,9% ефективен“, според документите, видяни от изданието) и устойчив на „изкривяване, като перифразиране“. Но тя отбелязва, че техники като преразказване с друг модел го правят „тривиално за заобикаляне от страна на нападателите“.

Компанията също така отбелязва, че е загрижена за стигматизирането на полезността на AI инструментите за хората, които не говорят езика.

Вълнението на OpenAI

Въпреки това OpenAI също изглежда загрижен, че използването на водни знаци може да отблъсне анкетираните потребители на ChatGPT, близо 30% от които очевидно са казали на компанията, че биха използвали софтуера по-малко, ако водните знаци бъдат внедрени.

Въпреки това някои от респондентите все още вярват, че водните знаци са ефективни.

В днешната блог публикация, компанията казва, че е „в ранните етапи“ на изследването относно вграждането на метаданни. Тя отбелязва, че е „твърде рано“ да се каже колко добре ще работи.

В контекста на тази статия бихме искали да ви припомним какви са опасенията на бивш служител на OpenAI относно развитието и внедряването на изкуствения интелект. Той вярва, че развитието на изкуствения интелект става много бързо и хората не са подготвени за това. Според него, общият изкуствен интелект (AGI) до 2026 г. безпроблемно по интелигентност ще превъзхожда всеки един човек.