Виталик Бутерин предупреди срещу прибързаното създаване на суперинтелигентен AI

Съоснователят на проекта Ethereum Виталик Бутерин призова за по-предпазлив подход към изследванията на ИИ, наричайки настоящия ажиотаж „много рискован“.

Той изложи вижданията си относно пригодността на изкуствения интелект в отговор на публикация на главния изпълнителен директор на Messari, Райън Селкис, относно лидерството на стартъпа OpenAI.

„Свръхинтелигентният AI е много рискован и не трябва да се бърза, а е необходимо да се изправим срещу тези, които се опитват да бързат“ — пише Бутерин.

Той също така помоли да не се стартират „никакви сървърни ферми на стойност 7 трилиона долара“.

Суперинтелигентният AI е теоретично представяне на изкуствения интелект, който превъзхожда човешкия интелект в почти всички области. Въпреки че мнозина виждат общия изкуствен интелект (AGI) като крайна реализация на пълния потенциал на технологията, суперинтелигентните модели може да са следващата стъпка.

Съвременните алгоритми са далеч от това, но съвременният напредък често предизвиква вълнение и безпокойство в обществото.

Според публикацията на Селкис относно предполагаемия ръководител на OpenAI, Сам Алтман, „AGI е твърде важен, за да боготворим друг бъбрив нарцисист“.

В отговор, Бутерин подчерта необходимостта от разнообразна AI екосистема:

„Силната екосистема от отворени модели, работещи на потребителския хардуер, е важна предпазна мярка срещу бъдещето, в което стойността, получена от AI, става хиперконцентрирана и повечето човешки мисли се четат и медиират от няколко централни сървъра, контролирани от малцина.“

Според него, подобни модели са „много по-малко опасни от гледна точка на риска от смърт, отколкото корпоративната мегаломания и военните“.

Бутерин също се позова на разделянето на алгоритмите на „малки“ и „големи“ категории, където приоритизирането и управлението на последните „изглежда разумно“. Той обаче изрази загриженост, че много от настоящите предложения в крайна сметка могат да станат „големи„.