fbpx
-0.5 C
София

Учените изискват незабавни действия по ограничаването на езиковите модели на изкуствените интелекти

Най-четени

Даниел Десподов
Даниел Десподовhttps://www.kaldata.com/
Новинар. Увличам се от съвременни технологии, информационна безопасност, спорт, наука и изкуствен интелект.

Миналата година специалистите на OpenAI и Центъра за изкуствен интелект на Станфордския университет повдигнаха въпроси относно създаването и използването на големи езикови модели от рода на GPT-3. Различни специалисти от области като информатика, лингвистика, философия, политология и социология се опитаха да определят, какви са техническите ограничения на тези езикови модели и какво е тяхното въздействие върху обществото.

В научната работа, публикувана тези дни в сайта arXiv.org, специалистите са събрали различните мнения на участниците в това октомврийско събитие, в която те са се опитали да дадат отговори на поставените въпроси.

Мащабните езикови модели от рода на GPT-3, създадени от OpenAI или от представената в края на 2020 година още по-голям ИИ модел на Google, се обучават с помощта на гигантски бази данни с текстове, събрани от ресурси като Reddit и Wikipedia. В резултат от това в тези ИИ модели се появяват пристрастия срещу различни групи хора, включително жени и хора с ограничени способности. Така например GPT-3 има твърде нелицеприятно мнение за чернокожите и счита, че на практика всички мюсюлмани са терористи. По този начин тези големи ИИ модели засилват разпространението на дезинформация.

Според авторите на тази научна работа, използването на подобни модели оказва твърде неблагоприятно въздействие на обществото, при това въздействието е много по-силно при маргинализираните общности. Ако подобни ИИ инструменти попаднат в ръцете на бизнеса, то това ще има твърде негативни и опасни последствия.

Учените препоръчват да бъдат създадени закони, които задължават компаниите да съобщават, че текстът е генериран от изкуствен интелект.


Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iOS и Huawei!

Абонирай се
Извести ме за
guest

0 Коментара
Отзиви
Всички коментари

Нови ревюта

Подобни новини