Guardian: „Кодът, написан от самите алгоритми е съвсем непредсказуем“

Когато постъпките на робота доведат до трагедия – например, роботизираният автомобил убие човек, екипите програмисти с месеци анализират машинния код, за да намерят причината за това събитие. Но изкуственият интелект, научен да пише собствения си код е в състояние съвсем лесно да напише допълнителен код, който да го защити от каквато и да било проверка. А това прави постъпките на ИИ непредсказуеми за разработчиците.

Човекът вече е загубил контрола върху алгоритмите за изкуствен интелект – алармира Guardian. Хората продължават да задават на невронните мрежи задачи едва на микро ниво, а след това системите се развиват самостоятелно, като последствията са непредсказуеми.

„В известен смисъл, ние вече изгубихме лостовете за влияние. Когато кодът се превръща в алгоритми, а алгоритмите създават нови алгоритми, в системата остава все по-малко място за човека. Специализираният софтуер пуска в нашата вселена код, който никой не може да разбере докрай“ – опасява се Елън Улмън от Guardian.

Да се откажем от машинното обучение е твърде трудно – програмите пишат по-добър код от хората. „Никой не знае, как да бъде написан сорс код, който да разпознава знака Стоп. Ние от години се опитваме да решим тази задача, но не можем и не се справяме! Всичко опира до нашата глупост и тъпост – ние не сме достатъчно съобразителни да разберем това. Всичко което умеем, е да напишем един общ алгоритъм, който може да се обучава, ако му се подадат достатъчно голям брой примери“ – твърди Тоби Уолш, специалист по ИИ и професор в университета на Нов Южен Уелс, Австралия.

Ако стане трагедия, хората ще трябва да се оправят с Франкенщайн-алгоритми. Така Смит нарича участъците с код, генериран от самата машина.

Така например, през месец март тази година в Аризона загина жена, блъсната от роботизиран автомобил. Изясни се, че ИИ я е разпознал като друг автомобил. Когато съвсем отблизо машината е разпознала, че това е велосипедистка, тя веднага е предлага управлението на водача. А той не е бил готов да реагира.

Неочакваните ситуации с ИИ са възможни не само при автономните автомобили. Опасността се крие и в алгоритмите, управляващи популярните облачни онлайн услуги, обезпокоени са експертите.

Според различните твърде крайни прогнози, изкуственият интелект силно ще измени живота на човечеството. Футурологът Ювал Ноа Харари счита ИИ за една от най-сериозните заплахи пред Човека, по-опасна от климатичните промени и ядреното оръжие.