OpenAI обнови GPT-3.5-turbo и GPT-4 с нови функции и намалени разходи за използването им

Тъй като конкуренцията в областта на генеративните невронни мрежи нараства, един от лидерите в лицето на OpenAI представи актуализираните версии на алгоритмите за генериране на текст и също така намали разходите за тяхното използване. Компанията пусна обновените версии на езиковите модели GPT-3.5-turbo и GPT-4, които ще предоставят още повече възможности за създаване на съдържание в сравнение с предишните версии на езиковите модели на стартъпа.

Едно от интересните нововъведения беше появата на инструмент, който позволява на разработчиците да описват програмните функции на естествен език и да получават пълноценен код за тяхното изпълнение. Например, този инструмент е подходящ за създаване на чатботове, които отговарят на въпроси чрез извикване на външни инструменти, преобразуване на естествен език в заявки към база данни и извличане на структурирани данни от текст. И двата модела могат да определят кога дадена функция трябва да бъде извикана и да отговарят във формат JSON, който съответства на сигнатурата на функцията. Това нововъведение също ще позволи на разработчиците да получат по-точни и структурирани данни.

Същевременно, моделът GPR-3.5-turbo получи разширен контекстен прозорец (количеството текст, взето предвид в процеса на генериране). Увеличаването на контекстния прозорец позволява на модела да разбира по-добре значението на заявките и да предоставя по-подходящи отговори, без да се отклонява от темата. Моделът GPR-3.5-turbo има контекстен прозорец от 16 000 токена, което е четири пъти по-голямо от това на GPT-3.5. Също така беше обявено, че OpenAI в момента тества модела GPT-4 с контекстен прозорец от 32k токена.

Цената за използване на стандартната версия на GPT-3.5-turbo (без разширен контекстен прозорец) е намалена с 25% до $0,0015 на 1000 входни токена и $0,002 на 1000 изходни токена, което съответства на приблизително 700 страници текст за $1. Цената за използване на модела text-embedding-ada-002, който измерва сходството на текста, е намалена със 75% до $0,0001 за 1000 токена.