OpenAI заяви, че нейните разработки могат да улеснят решаването на една от най-трудните и разочароващи технически задачи – задачата за модериране на съдържанието. Големият езиков модел GPT-4 на компанията е в състояние да замени десетки хиляди хора-модератори, като демонстрира същата висока точност и дори повече.
OpenAI обяви в корпоративния си блог, че вече използва GPT-4, за да усъвършенства собствените си политики за съдържание, етикетиране и индивидуални решения. Компанията дори посочи редица предимства на изкуствения интелект пред традиционните подходи за модериране на съдържание.
На първо място, хората интерпретират политиките по различни начини, докато машините са последователни в преценките си. Насоките за модериране могат да бъдат обемни и постоянно променящи се – на хората им е необходимо дълго време, за да се научат и адаптират към промените, докато големите езикови модели прилагат новите политики незабавно. Второ, GPT-4 е в състояние да помогне за разработването на нова политика в рамките на няколко часа. Процесът на етикетиране, събиране на обратна връзка и усъвършенстване обикновено отнема седмици или дори месеци. Трето, не може да се пренебрегва психологическото благополучие на работниците, които в резултат на работата си са постоянно изложени на злонамерено съдържание.
Популярните социални мрежи съществуват от почти две десетилетия, да не говорим за други онлайн общности, но модерирането на съдържанието все още е една от най-трудните задачи за онлайн платформите. Meta, Google и TikTok са създали цели армии от модератори, които трябва да преглеждат ужасно и често травмиращо съдържание. Повечето от тях живеят в нископлатени държави, работят в аутсорсинг компании и се опитват да се справят с травмите сами с минимална помощ.
Самата OpenAI все още разчита в голяма степен на човешки ресурси – тя наема работници от африкански страни, които да коментират и маркират съдържание. Това съдържание може да бъде проблематично, което прави работата на тези служители стресираща при ниско заплащане. Meta, Google и TikTok използват собствени модели с изкуствен интелект в допълнение към човешките модератори, така че предложеното от OpenAI решение ще се окаже полезно за по-малките компании, които нямат ресурси за разработването на собствени системи.
Всяка платформа признава, че не съществуват перфектни механизми за модериране в голям мащаб – и хората, и машините правят грешки. Процентът на грешките може да е нисък, но все още има милиони потенциално вредни публикации, които си проправят път към публичното пространство и вероятно също толкова безвредно съдържание, което се скрива или премахва. И накрая, не бива да се забравят вътрешните проблеми, характерни за системите с изкуствен интелект като „халюцинациите“, които също могат да усложнят работата на ИИ модераторите.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
