Кръстникът на ИИ призна, че се страхува от творението си, защото може да замени човечеството

Дългогодишният служител на Google Джефри Хинтън, широко смятан за „кръстник на изкуствения интелект“, макар да не е само той, казва, че е притеснен. От факта, че технологията, която е изграждал цял живот, може да превземе света.

В поява в CBS, известният когнитивен учен и изследовател на изкуствения интелект зададе тон като заяви, че „за първи път досега“ човечеството трябва да се бори с такава реалност. Че нещо друго на нашата планета е „по-интелигентно от нас“. Може би най-интересната част от обмена дойде, когато водещият на CBS Скот Пели попита Хинтън дали свръхинтелигентният изкуствен интелект може да „поеме управлението вместо човечеството“.

Що се отнася до спецификата на това как изкуственият интелект може в крайна сметка да изпревари своите човешки господари, той има своя версия. Ученият спекулира, че автономните агенти може да започнат да се „променят“.

„Това е нещо, за което трябва сериозно да се тревожим“, добави той.

Един от аргументите е, че има липса на пълно разбиране как точно алгоритмите за машинно обучение функционират. И то до най-малкия детайл. Имаме „много добра“ груба представа за това как AI системите се учат, но щом стане наистина сложно, всъщност не знаем какво се случва повече, отколкото знаем какво се случва в нашия мозък например.

Това е справедливо безпокойство; независимо от това дали изходът на машината е технически правилен.

Да речем, тя произвежда толкова, колкото е възможно. Пътната карта, която машината предприема, за да стигне до тази крайна точка, все още има значение. Ако хората възнаграждават правилните резултати, постигнати чрез проблемни средства достатъчно с течение на времето, може случайно да обучим AI инструменти по начини, които могат да имат неочакван обратен ефект.

Но страховете на Хинтън не се ограничават до въпросите за световното господство.

Според CBS той също се тревожи за въздействието на начина, по който хората могат да използват AI. От използването на автономни AI оръжия и бойни роботи, до масовата замяна на човешки работници с AI, до дестабилизиращото разпространение на дезинформация, генерирана от AI, наред с други тревоги. Това е мрачна перспектива, разбира се, но докато това голямо неизвестно се разгръща, потенциалните заплахи продължават да си заслужават вниманието.

„Има огромна несигурност за това какво ще последва“, завърши Хинтън.

Името му може да ви е познато. По-рано тази година той напусна Google, именно заради притеснения и гузна съвест за работата, която е вършил.