Водещата компания в областта на изкуствения интелект Anthropic предупреди, че хората рискуват да загубят контрол над системите с изкуствен интелект в най-близко бъдеще, ако тревожната тенденция, наблюдавана при AI модела ѝ Claude продължи.
Стартъпът, оценен на 1 трилион долара разкри, че Claude вече пише над 80% от собствения си код – в сравнение с по-малко от 10% през февруари миналата година. Anthropic твърди, че кодът, написан от Claude в момента е приблизително на нивото на кода, написан от хора, и се очаква да бъде много по-добър през следващата година.
„Тази тенденция сочи към система с изкуствен интелект, способна напълно автономно да проектира и разработва своя собствен наследник. AI, който може да се изгражда сам би бил значително развитие в историята на технологиите – такова, което би могло да донесе огромна полза за света в областта на науката, здравеопазването и отвъд тях. Но пълното рекурсивно самоусъвършенстване също може да увеличи рисковете хората да загубят контрол над AI системите.“
пишат Марина Фаваро и Джак Кларк от Anthropic в публикация в блога на компанията
Anthropic отбеляза, че доскоро напредъкът в изкуствения интелект се е основавал изцяло на човешки инженери и разработчици, но сега компанията все повече делегира разработването на своя AI на самите AI системи в опит да ускори напредъка.
Тези постижения поставят Claude на пътя към „рекурсивно самоусъвършенстване“, което би му позволило да се усъвършенства без човешка намеса. Anthropic добави, че „вероятно би било добре“ ефективно да се забави развитието на технологията, за да се даде повече време за справяне с потенциалните последствия.
Забавянето или преустановяването на развитието на изкуствения интелект би изисквало широк консенсус в бранша, както и политическо сътрудничество на фона на силен геополитически натиск и съперничество. Anthropic заяви, че планира да работи с политици, изследователи и други компании за изкуствен интелект през следващите месеци в опит да се подготви за появата на самоусъвършенстващи се AI системи.
Това не е първият път, когато се отправя подобен призив за спиране на развитието на изкуствения интелект – през 2023 гoдина, след пускането на ChatGPT хиляди специалисти в областта на технологиите призоваха за 6-месечен мораториум върху обучението на AI. В отвореното писмо, организирано от нестопанската организация Future of Life Institutes се посочваше опасността от загуба на контрол върху AI в цялото общество, макар че не беше постигнато спиране на развитието на технологията.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
