Anthropic: до 2028 година изкуственият интелект ще може да се самоусъвършенства без човешко участие

Anthropic предупреждава за опасен сценарий в развитието на изкуствения интелект, при който той ще може самостоятелно да създава подобрени версии на самия себе си. В новия изследователски документ на компанията се казва, че до края на 2028 г. може да се появят системи, способни самостоятелно да пренаписват собствения си код, да премахват слабостите и да ускоряват по-нататъшното си развитие. Подобно „рекурсивно самоусъвършенстване“ на ИИ може да доведе до така наречената „експлозия на интелигентността“.

Тази тема се разглежда от компанията в нов документ на нейното изследователско звено Anthropic Institute, посветен на потенциалните заплахи за развитието на AI системите. Институтът беше създаден преди няколко месеца, за да проучи „най-сериозните проблеми“, които изкуственият интелект може да донесе.

Особено внимание в документа е отделено на AI за изследване и развитие на изкуствения интелект. В него се задава въпросът как да се проследят темповете на развитие на изкуствения интелект и какви сигнали могат предварително да предупреждават, че той се приближава към рекурсивно самоусъвършенстване. За тази цел Anthropic предлага да се разработят системи за наблюдение, които могат да улавят промените в поведението и възможностите на моделите.

Съоснователят на Anthropic Джак Кларк заяви, че до края на 2028 г. може да има системи, на които ще е необходимо само да се даде команда „създай по-добра версия на себе си“, след което те ще могат автономно да се самоусъвършенстват. Според него такъв изкуствен интелект ще може да анализира своите силни и слаби страни и след това да пренаписва части от собствения си код, за да подобри ефективността си.

Anthropic смята, че подобен сценарий би могъл да доведе до непредвидими последици. Компанията се опасява от появата на скрити грешки, които хората вече няма да могат да откриват, както и от появата на механизми за самосъхранение, които не позволяват на AI да се изключи. В документа се споменава и за възможни „експлозии на интелекта“ – рязко ускоряване на развитието на системите след стартирането на процеса на самоусъвършенстване.

Освен заплахите, изследователите разглеждат и по-широките последици от разпространението на ИИ: въздействието върху пазара на труда, устойчивостта на цифровата инфраструктура, сигурността и използването на ИИ в научните изследвания. Anthropic подчертава, че се стреми не само да разработва технологии, но и да подготвя предварително механизми за реакция при потенциални кризи. Амодей смята, че подготовката за момента, в който изкуственият интелект ще започне да се самообучава, трябва да започне още сега.

Ако тази прогноза се сбъдне, 2028 година ще маркира началото на нова епоха в технологичната история – моментът, в който създателят престава да бъде водеща фигура в еволюцията на своето творение.