Компанията OpenAI, която разработи ИИ-ботът ChatGPT, способен да пише доста сложни смислени текстове, обяви създаването на нов инструмент, който ви позволява да идентифицирате произхода на написаното. Според стартъпа, новата версия на инструмента разпознава генерираното от AI съдържание по-точно от представения през 2019 г. вариант.
Инструментът беше представен само няколко месеца след като OpenAI привлече вниманието на всички с представянето на ChatGPT – бот, способен да пише текстове, които на пръв поглед биха могли да бъдат написани от човек. Миналата седмица Microsoft, която вече инвестира доста сериозно в OpenAI, анонсира инвестиция за милиарди долари, насочена към интегриране на разработките на стартъпа в своите услуги.
Много образователни институции бързо предприеха мерки за ограничаване използването на ChatGPT от учениците, опасявайки се, че приложението на бота ще се отрази негативно върху качеството на образователния процес. Както се пошегува ръководителят на OpenAI, Сам Алтман, преди време процесът на обучение се промени с появата на калкулаторите. Той обаче каза също, че компанията вероятно ще помогне на учителите да разпознават „фалшивите произведения“, изпълнени от AI.
Тъй като развитието на новия инструмент продължава, той все още прави много грешки. Компанията търси обратна връзка от учители и родители. Според самия OpenAI, когато се оценява тестов набор от текстове на английски, програмата класификатор успешно идентифицира 26% от текстовете, написани от AI, наричайки ги „вероятно написани от AI“. В същото време, неправилно идентифицира 9% от текстовете, създадени от хората, като написани от изкуствен интелект.
Това не е първият опит за създаване на инструмент, който ви позволява да разпознавате генериран от машини текст. Този месец студентът от Принстънския университет Едуард Тиан анонсира инструмента GPTZero за преподаватели. Самият OpenAI по-рано пусна инструмент за разпознаване на текст, написан от изкуствен интелект още през 2019 г., едновременно с езиковия модел LLM, който е малко по-опростен от ядрото на ChatGPT. Според служителите на стартъпа, новата версия на инструмента е много по-добра в разпознаването на текстовете с „изкуствено“ авторство.
Известно е, че инструментът не е силен при анализирането на фрагментите с по-малко от 1000 знака и OpenAI не препоръчва използването му с езици, различни от английски. Освен това генерираният от изкуствен интелект текстът при лека корекция от страна на човека го прави по-труден за идентифициране и вероятностите от грешки значително се увеличават. Още през 2019 г. OpenAI подчерта, че разпознаването на синтетичните текстове не е лесна задача, но компанията възнамерява да работи върху системата за разпознаване и в бъдеще, за да я направи възможно най-съвършена и точна в своята работа.