Отново Ювал Харари: „Изкуственият интелект може да предизвика нова катастрофална финансова криза“

Историкът и писател Ювал Ноа Харари заяви пред The Guardian, че изкуственият интелект може да предизвика финансова криза с „катастрофални“ последици с невиждан досега мащаб. Според него сложността на технологията затруднява предвиждането на опасностите от нея. Харари, който е известен с критиките си към развитието на изкуствения интелект, смята, че безопасността на тези системи не може да бъде гарантирана, тъй като те могат да доведат до множество опасни сценарии, които да застрашат самото съществуване на човешката цивилизация.

На световната среща на върха за безопасността на ИИ в Блетчли Парк (Station X) бе подписана многостранна декларация, която Харари нарича „много важна стъпка напред“. Водещи правителства изразиха своята загриженост и желание за сътрудничество в тази област. Харари смята присъединяването на Китай към декларацията за особено важно, като подчертава, че без глобално сътрудничество спирането на най-опасните възможности на ИИ ще бъде изключително трудно.

Срещата на върха завърши със споразумение за сътрудничество между 10 правителства, включително САЩ и Обединеното кралство, Европейския съюз и най-големите компании за работа с изкуствен интелект – OpenAI и Google – за тестване на усъвършенствани модели на ИИ преди и след пускането им на пазара.

Харари подчертава, че ИИ се различава от всички предишни технологии по това, че може самостоятелно да взема решения, да създава нови идеи и да се развива. Той посочва финансите като област, която е идеално пригодена за ИИ системите и е потенциален източник на голяма криза.

Харари предполага, че ИИ би могъл да създаде финансови инструменти, които са с порядък по-сложни от тези, довели до кризата през 2007-2008 г., и които никой няма да може да разбере, което ще затрудни тяхната регулация. Идеята е, че изкуственият интелект се възприема от специалистите в тази област като някаква черна кутия, която получава входни данни и дава верни отговори, само че никой не знае как точно става това и какви процеси протичат по време на обучението на невронните мрежи и при тяхното използване. А това означава, че тяхната регулация и изключително трудна.

Правителството на Обединеното кралство наскоро изрази загриженост относно потенциалната заплаха от съвременните напреднали модели на ИИ, които могат да контролират и манипулират финансовите системи. Според Харари обаче една криза, предизвикана от ИИ, сама по себе си не би унищожила човешката цивилизация, въпреки че косвено би могла да доведе до войни или конфликти, каза ученият.

Харари, който подкрепя призивите за шестмесечна пауза в разработването на усъвършенстван и универсален изкуствен интелект и е привърженик на търсенето на отговорност от компаниите, разработващи изкуствен интелект, за вредите, причинени от техните продукти, заяви, че фокусът не трябва да пада върху конкретни закони, а върху създаването на регулаторни органи, които да могат да реагират бързо на новите технологични пробиви.