Макс Тегмарк: Развитието на ИИ може да доведе до изчезването на хората

Физикът и борец за безопасността на изкуствения интелект Макс Тегмарк предупреждава, че технологичните гиганти отвличат вниманието на света от екзистенциалния риск, който изкуственият интелект все още представлява за човечеството.

В изказване на срещата на върха за ИИ в Сеул Тегмарк предупреди, че изместването на фокуса от заплахата от изчезване на живота към общите въпроси на сигурността може да забави разработването на ограничения за създателите на най-мощните интелигентни системи.

Ученият направи пряк паралел с едно от най-важните събития в историята на ядрената физика:

„През 1942 година Енрико Ферми построи първия в света реактор със самоподдържаща се верижна ядрена реакция под футболно игрище в Чикаго. Когато водещите физици по онова време разбраха за това, те изпаднаха в истински ужас, защото осъзнаха, че основната пречка пред създаването на ядрени оръжия току-що е рухнала. Те осъзнаха, че създаването на бомбата е въпрос на години и наистина до Тринити оставаха само 3 години.“

сподели Тегмарк

Според Тегмарк, моделите на изкуствения интелект, които могат да преминат теста на Тюринг и са неразличими от хората в общуването, са също толкова опасни, защото никой не гарантира, че един ден няма да загубим контрола над алгоритмите. Ето защо пионери в бранша като Джефри Хинтън и Йошуа Бенгио, както и изпълнителните директори на много технологични корпорации напоследък започнаха да бият тревога, макар и не публично.

Миналата година организацията с нестопанска цел Future of Life (Бъдещето на живота), ръководена от Тегмарк призова за 6-месечен мораториум върху изследванията на ИИ.

Въпреки хилядите подписи на експерти под петицията, сред които и „кръстниците“ на съвременните невронни мрежи Хинтън и Бенгио, мораториумът не беше договорен. Вместо това срещите на високо равнище по въпросите на изкуствения интелект, като настоящата среща в Сеул и миналогодишната в Блетчли Парк в Обединеното кралство, се съсредоточиха върху установяването на принципи за регулиране на тази млада и процъфтяваща област.

„Искахме нашето писмо да легитимира дискусията за рисковете от ИИ и се радваме, че се получи. Когато хората видяха, че мастити експерти като Бенгио имат сериозни опасения, те разбраха, че е нормално и те открито да изразяват опасения. Дори един обикновен служител на бензиностанция ми каза след това, че се страхува от това, че изкуственият интелект ще измести хората. Сега трябва да преминем от разговори към реални действия.“

подчерта Тегмарк

Тегмарк твърди, че изтласкването на най-наболелите проблеми, свързани с ИИ в периферията на дебата в никакъв случай не е случайно, а целенасочен процес, за който са виновни лобистките усилия на технологичната индустрия.

„Това е точно това, което прогнозирах. През 1955 година излязоха първите научни публикации, в които пушенето се свързваше недвусмислено с рака на белия дроб. Смятате ли, че веднага след това е била разработена регулация? Не, отне 25 години. До 1980 година никой не обръщаше внимание на заплахата, защото тютюневата индустрия умишлено отклоняваше общественото внимание. Изглежда, че същото нещо се случва и сега с ИИ.“

заявява той

Критиците на Тегмарк изтъкват същия аргумент срещу него. Индустрията уж иска всички да говорят за хипотетични рискове в бъдещето, за да отклонят вниманието от реалните проблеми в настоящето. Самият учен обаче отхвърля това обвинение.

„Дори и да погледнем безпристрастно на ситуацията, това твърдение няма много смисъл. Излиза, че някой като Сам Алтман от OpenAI умишлено плаши всички с тотална катастрофа, за да избегне регулация и в същото време убеждава хора като нас да тръбят гръмко за предстоящата опасност. Това е твърде сложно.“

споделя той

Според Тегмарк сдържаната подкрепа на някои технологични лидери се дължи на това, че „те са в патова ситуация“. Дори някои от тях да искат да спрат, не могат. Какво ще стане, ако изпълнителният директор на тютюнева компания внезапно осъзнае пагубността на своя бизнес? Той просто ще бъде заменен. Така че единственият начин за безопасен ИИ е, ако правителството установи задължителни стандарти за безопасност за всички.