Мъск е съгласен: „Вероятността ИИ да унищожи човечеството е 10-20%“

Дори ако рискът човешката цивилизация да загине в резултат на въстание на машините е едно към пет, технологията за изкуствен интелект си заслужава, казва Илън Мъск. Говорейки на срещата на върха Abundance Summit в Амстердам, той уточни по-ранните си прогнози за края на света и се съгласи с мнението на Джефри Хинтън. Той е бившият ръководител на отдела за изследване на изкуствения интелект в Google. Хинтън е на мнение, че през следващите години изкуственият интелект може да се осъзнае и да поиска да се избави от хората.

Миналата есен Мъск заяви, че ИИ технологиите ще започнат да представляват заплаха с вероятност, различна от нулата. Но тогава той не каза, че я смята за заплаха за самото съществуване на човечеството. По време на сегашното събитие той прогнозира, че през 2030 г. цифровият интелект ще надмине целия съвкупен човешки интелект. И макар Мъск да признава ползите от развитието на ИИ, той заяви, че не може да се пренебрегват рисковете от неговото бързо развитие.

„Вярвам, че има вероятност той [ИИ] да сложи край на човечеството“, казва Илон Мъск. „Ще се съглася с Джеф Хинтън, че вероятността е около 10-20%.“ Въпреки това той добави, че „вероятният оптимистичен сценарий надделява над песимистичния сценарий“.

Мъск не каза как точно е изчислил рисковете.

Преди няколко седмици Мъск сравни разработването на универсален изкуствен интелект с отглеждането на дете. Само че гениално дете, което е свръхинтелигентно. Затова начинът, по който то се възпитава, е от голямо значение. Самият той съветва да надарим такъв ИИ с максимално желание да търси истината и любов към знанието.

„Не го карайте да лъже, дори истината да е неприятна“, казва Мъск. – Това е много важно. Не карайте ИИ да лъже. В края на краищата, ако се научи да лъже, той лесно ще заобиколи всички защитни механизми, които хората ще изградят срещу него“.

Роман Ямполски, експерт по сигурността на ИИ от Университета в Луисвил (САЩ), също подкрепи мнението на Мъск. ИИ наистина може да се окаже заплаха за съществуването на човечеството, каза той пред изданието BI, но Мъск е твърде консервативен в оценките си. Според него реалната вероятност за гибел е по-висока. ИИ може да създаде нови биологични оръжия или да предизвика колапс на обществото, като унищожи социалните институции с кибератаки и ядрени оръжия.

Ню Йорк Таймс нарече изчисляването на вероятността за подобна смърт „новата мрачна статистика, която завладя Силициевата долина„. Експертите се състезават помежду си в изготвянето на прогнози, според които ИИ ще унищожи всичко с вероятност от 5 до 50%. Ямполски е най-категоричен от всички останали – неговата оценка е 99,99999999%.

„Не знам защо си мислим, че тази технология изобщо си струва да се разработва“, добавя Ямполски. – Ако се притесняваме да не би конкурентите да са първи, това няма значение, защото един излязъл от контрол свръхразум е еднакво опасен, независимо кой го е създал“.