Алтман предупреди: Изкуственият интелект може случайно да завладее света, без да хакне нито една система

Главният изпълнителен директор на OpenAI Сам Алтман, говорейки в подкаста MD MEETS заедно с главния изпълнителен директор на Axel Springer Матиас Дьопфнер, очерта тревожен сценарий за бъдещето на технологиите: човечеството може да загуби контрол върху изкуствения интелект (ИИ) не поради злонамерено намерение или причинено от човека бедствие, а случайно.

Според него опасността не се крие във „възхода“ на ИИ, а в това хората постепенно да му предават юздите на властта – доброволно и почти незабележимо. Потребителите разчитат все повече на съветите на ИИ всеки ден. Но моделите стават все по-умни и Алтман рисува следната картина: в началото ИИ прави препоръки, които хората лесно следват, след това прави препоръки, които може дори да не са напълно разбрани, но неизменно се оказват правилни. След това, в един момент, потребителите ще се изправят пред избор: да слушат ИИ или да загубят от конкурентите, които следват неговите съвети и препоръки.

В крайна сметка, според Алтман, повечето хора ще започнат безпрекословно да следват препоръките на ИИ-асистентите. „Представете си какво се случва с ChatGPT днес? Стотици милиони хора общуват с него ежедневно и скоро този брой ще достигне милиард. И ние все повече му се доверяваме при вземането на важни решения в кариерата, личния си живот и бизнеса“ — казва той. Алтман е особено загрижен за възникващата „обратна връзка“, което означава, че колкото повече потребители разчитат на съветите на изкуствения интелект, толкова повече данни събира, толкова по-интелигентен става и толкова повече влияе върху решенията на хората.

Ръководителят на OpenAI постави под въпрос кой наистина контролира ситуацията и заключи, че човечеството може тихомълком да започне да се подчинява на волята на изкуствения интелект. Той смята, че този сценарий е сериозно подценяван, но въпреки това представлява най-реалната заплаха.