Мъск, Возняк и още 1000 водещи IT експерти призоваха да се спре обучението на невронните мрежи, които са по-добри от GPT-4

Илън Мъск, Стив Возняк и над 1000 други водещи експерти по изкуствен интелект и представители на ИТ индустрията призоваха за шестмесечен мораториум върху обучението на системи за изкуствен интелект, които са по-продуктивни от наскоро представения модел GPT-4 на OpenAI. В отворено писмо те предупреждават за потенциалните рискове за обществото. Информацията е на агенция Reuters.

Писмото е публикувано от Института с нестопанска цел Future of Life (Бъдещето на живота) и е подписано от редица видни представители на ИТ индустрията. Всички те призовават за „пауза“ в развитието на изкуствения интелект, преди да бъдат разработени общи протоколи и стандарти за безопасността за индустрията, чиито прилагане да бъде проверено от независими одитори.

В писмото се подчертава, че мощните системи за изкуствен интелект трябва да се разработват само след като човечеството се увери в положителните последици от тези разработки и че свързаните с тях рискове са управляеми. В писмото се споменават и потенциалните заплахи за обществото и цивилизацията, които представляват системите с ИИ, способни да се конкурират с хората, което може да доведе до икономически и/или политически сътресения. Разработчиците се призовават да работят в тясно сътрудничество с регулаторните органи.

„Обширни изследвания показват, че подобни системи с изкуствен интелект, които се конкурират с хората, могат да представляват сериозна опасност за цялото човечество“, се казва в писмото.

Писмото бе публикувано, след като Европол се присъедини към групата, загрижена за развитието на изкуствения интелект, и предупреди за възможността за злоупотреба от страна на хакери подпомогнати от системи като ChatGPT – те могат да бъдат използвани за организирането на невиждани досега кибератаки, фишинг, дезинформация и киберпрестъпления. Мъск, чиято компания Tesla отдавна използва изкуствен интелект в системите си за автопилот, открито и многократно изразяваше загрижеността си относно опасностите от системите с изкуствен интелект.

От излизането си миналата година чатботът ChatGPT на OpenAI, подкрепен от Microsoft, демонстрира качества, които принудиха конкурентите му спешно да ускорят разработването на собствени големи езикови модели. В резултат на това компаниите започнаха прибързано да интегрират генеративния изкуствен интелект в своите продукти. Според Future of Life главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото и компанията е отказала коментар.

Според един от експертите, необходимо е да се забави свързаната с това дейност, докато човечеството не започне да разбира по-добре последиците, тъй като системите с изкуствен интелект са способни да причинят сериозни щети. Особено след като големите играчи пазят в тайна информацията за това, върху което работят – така че за обществото ще бъде трудно да се защити, в случай че се сбъднат и най-лошите опасенията.