DeepMind прогнозира появата на изкуствен интелект на ниво човек още към 2030 г.

Google DeepMind публикува статия за своя подход към безопасността на общия изкуствен интелект (AGI), който компанията определя като система, чиито способности са сравними с тези на опитен възрастен човек в широк спектър от умствени задачи. DeepMind смята, че AGI трябва да се очаква към 2030 г. Според авторите тези системи биха могли да представляват екзистенциална заплаха, стигаща до „унищожаване на човечеството“.

В документа от 145 страници, чийто съавтор е съоснователят на DeepMind Шейн Лег, се казва, че AGI може да се появи още през 2030 г. и да причини „сериозни вреди“. Авторите дори споменават „унищожаването на човечеството“. Компанията определя общия изкуствен интелект като: система, чиито способности са сравними с 99-ия процентил на квалифицирани възрастни в широк спектър от нефизически задачи, включително метакогнитивни задачи, като например усвояване на нови умения.

DeepMind сравнява своя подход за управление на риска при AGI с методите на Anthropic и OpenAI. Авторите установяват, че Anthropic не обръща достатъчно внимание на обучението и мониторинга на сигурността, докато OpenAI разчита твърде много на автоматизирането на изследванията на сигурността на ИИ – т.нар. matching.

OpenAI наскоро обяви, че измества фокуса си от AGI към свръхинтелигентност. Документът на DeepMind поставя под въпрос възможността за създаване на свръхинтелигентен ИИ – т.е. ИИ, който превъзхожда хората във всички задачи. Авторите смятат, че без съществени промени в архитектурата на изкуствения интелект е малко вероятно в близкото бъдеще да се появят свръхинтелигентни системи, а може би и изобщо да не се появят.

Авторите обаче смятат, че е доста вероятно съществуващите технологии да позволят на ИИ да се самоусъвършенства. Това означава, че изкуственият интелект ще се самообучава и ще създава по-усъвършенствани версии на самия себе си. Това може да бъде изключително опасно, се подчертава в документа.

Компанията предлага стратегия за защита на хипотетичния общ ИИ, основана на три принципа: ограничаване на достъпа на злоумишленици, увеличаване на прозрачността на решенията за ИИ и създаване на безопасна среда за работата му. Въпреки че много технически решения все още са в процес на разработване, авторите настояват за необходимостта от предприемане на превантивни мерки срещу потенциалните заплахи още сега.

Експертите изразиха скептицизъм по отношение на разпоредбите на проучването. Някои отбелязват, че концепцията за AGI все още е твърде неясна за научна оценка, други смятат, че самоусъвършенстването на ИИ е недоказана хипотеза. Специалистите посочват по-належащ проблем – халюцинацинирането на ИИ. Тъй като генерираното съдържание, което не винаги е напълно точно, изпълва интернет, моделите на ИИ започват да се учат от собствените си изкривени заключения, създавайки порочен кръг от дезинформация.