Запознайте се с CriticGPT – „учителят“ на ChatGPT, който ще търси грешките в отговорите на чатбота

OpenAI разработи отделен модел, наречен CriticGPT, който ще търси грешките в отговорите на ChatGPT — първоначално „учителят“ ще се фокусира върху фрагментите от код и, както беше отбелязано, ще се превърне само в спомагателен инструмент за човешките специалисти, които ще проверяват ръчно текстовете на чатбота.

CriticGPT, изграден на базата на фамилията езикови модели GPT-4, беше допълнително обучен на набор от примерни кодове с умишлено вмъкнати грешки и в първите тестове той е превъзхождал хората в 63% от времето. Твърди се, че моделът пише по-добри и по-подробни критики, като по-често намалява честотата на така наречените халюцинации на чатбота.

По време на обучението, CriticGPT успешно е открил както грешките, умишлено вмъкнати от хора, така и грешките, които ChatGPT е добавил първоначално.

Изследователите на OpenAI също са създали и нова техника под името Force Sampling Beam Search (FSBS), която помага на CriticGPT да пише по-подробни обзори на кода и може да бъде балансирана в зависимост от потребностите за обучение.

Интересното в случая е, че на един от етапите от експеримента на CriticGPT е било позволено да провери отговорите, които хората преди това са определили като идеални — и моделът е открил грешки в 24% от случаите (по-късно те са били потвърдени от рецензенти). OpenAI вярва, че това демонстрира потенциала на модела за проверка на задачите, които не са свързани с код и подчертава способността му да улавя „най-фините грешки„, които дори внимателният човешки преглед може да пропусне.

Въпреки обещаващите резултати, CriticGPT, както всички AI-модели, има ограничения. Той тренира на сравнително кратки ChatGPT отговори, така че все още не е готов за по-дълги и по-сложни задачи.