От безработица до войни: „Кръстникът на изкуствения интелект“ Джефри Хинтън вярва, че светът не е готов за AI

Джефри Хинтън, носител на наградата Тюринг и пионер в дълбокото обучение, предупреди, че човечеството е неподготвено за последствията от бързия напредък на изкуствения интелект. По време на публичен дебат със сенатор Бърни Сандърс, ученият заяви, че рисковете варират от икономическа катастрофа до неконтролируемо разпространение на автономни оръжия и че съществуващите социални институции няма да могат да се справят с тези предизвикателства без радикални реформи.

Хинтън подчертава, че широкото разпространение на изкуствения интелект неизбежно ще увеличи производителността, но ползите ще се отразят предимно на корпоративните собственици, докато служителите ще се сблъскат със съкращения. Той смята, че пазарът няма да може сам да балансира ситуацията: правителствата ще трябва да се намесят в икономиката, евентуално чрез въвеждане на универсален базов доход, за да предотвратят рязкото нарастване на неравенството.

Военното приложение на тези технологии е особено тревожно. Той отбелязва, че контрола на бойните невронни мрежи е много по-трудно от това на ядрените оръжия. Докато създаването на бомба изисква гигантски фабрики и редки изотопи, автономните оръжия се контролират от софтуерен код. Те могат лесно да бъдат копирани, откраднати и транспортирани на стандартни носители за съхранение, което прави контрола върху неразпространението практически невъзможен.

Ученият също така повтори опасенията си относно екзистенциалните рискове, свързани със загубата на контрол. Хинтън вярва, че тъй като изкуственият интелект става по-умен от хората, той може да се научи да манипулира хората, за да постигне цели, които противоречат на човешките ценности. Основният проблем, казва той, е, че навлизаме в тази ера без ясен план за отбрана.

Тази реч продължава поредица от предупреждения, които Хинтън отправи, откакто напусна Google през 2023 г. Той настоява, че скоростта на прогреса през последните няколко години е била много по-бърза от прогнозите на експертите и обществото просто няма време за бавното, бюрократично адаптиране на законодателството.