Андрю Нг и Ян Лекун се противопоставиха на мораториума върху изкуствения интелект

В края на миналия месец над хиляда специалисти по изкуствен интелект публикуваха отворено писмо, в което призоваха разработването на генеративните модели да бъде преустановено поне за шест месеца поради потенциалната им опасност за обществото. Не всички обаче подкрепиха тази инициатива. Двама водещи експерти в областта на невронните мрежи и машинното обучение, Иън Лекун и Андрю Нг, считат, че паузата в изследванията е ужасна идея, и се застъпват за свобода на научните изследвания при разумно регулиране на ИИ продуктите, които попадат в ръцете на потребителите.

В онлайн дискусия, с категоричното заглавие „Защо шестмесечната пауза за изкуствения интелект е лоша идея„, Иън Лекун (носител на наградата „Тюринг“, ръководител на Meta) и Андрю Нг (бивш ръководител на Google Brain и на Baidu, съосновател на Coursera) споделиха вижданията си за ситуацията. В началото на разговора Иън заяви, че налагането на шестмесечен мораториум всъщност би причинило значително повече вреди, ако правителството реши да действа по този начин.

През последното десетилетие изкуственият интелект преживя значителен бум, пише Venture Beat. Технологията за дълбоко обучение доведе до създаването на генеративни системи за изкуствен интелект, способни да генерират правдоподобни текстове, изображения и звуци: ChatGPT, LLaMa, Midjourney, Stable Diffusion, Dall-E. Те откриха редица нови, все още неизследвани възможности, но и дадоха повод за безпокойство.

Някои от тези опасения бяха свързани с настоящето или непосредственото бъдеще – прозрачност, пристрастност, социално-икономически вреди. Други бяха по-далечни и неясни, като например появата на универсален изкуствен интелект, който би искал да унищожи човечеството или поне да действа от личен интерес.

„Историята неведнъж е показвала, че благосъстоянието на обществото и хората се развива с нарастването на интелигентността: умения, грамотност, образование, творчество, култура, комуникация и свободен обмен на идеи. Интелектът, независимо дали е човешки или машинен, е горивото на прогреса“, каза Лекун.

Според него малцина от подписалите отвореното писмо сериозно вярват, че ИИ внезапно ще се изправи срещу хората. Според него по-разумни са тези, които вярват, че ИИ има известен потенциал да навреди на човечеството и че трябва да се направи нещо по въпроса. Той е съгласен с тези хора. Но когато става въпрос за бъдещи, все още несъздадени ИИ, е грешка да се смята, че всички те ще бъдат разработени на същите принципи като ChatGPT. Със сигурност ще се появят нови методи и идеи за това как да се направят тези системи по-управляеми.

Като цяло Нг и Лекун признават, че е необходимо известно регулиране на ИИ, но не за сметка на научните изследвания и иновациите. Според тях спирането на развитието е нереалистично и контрапродуктивно. Вместо това те призоваха за сътрудничество и прозрачност между изследователите, правителствата и корпорациите, за да се гарантира, че техните модели се държат етично и отговорно.

„Първата ми реакция [на писмото] – призивът за отлагане на научноизследователската и развойната дейност ми напомня за нова вълна на мракобесие“, казва Лекун. „Защо да забавяме напредъка на знанието и науката? След това стои въпросът за продуктите… Аз съм за регулиране на ИИ продуктите, които стигат до хората. Не виждам смисъл в регулирането на научноизследователската и развойната дейност. Не мисля, че това ще доведе до някаква полза, освен че ще намали знанията, които можем да използваме, за да направим технологиите наистина по-добри и по-безопасни“.

Нг се присъединява към своя колега: „Призивът за шестмесечен мораториум върху напредъка в областта на изкуствения интелект е ужасна идея. Виждам много нови приложения в образованието, здравеопазването, хранителната промишленост и т.н., които ще помогнат на много хора. Усъвършенстването на GPT-4 ще бъде от полза. Нека балансираме огромната стойност, която ИИ създава, с реалистичните рискове.“