Готови ли сме да се доверим на машините, когато става въпрос за живота и смъртта?

Изследователи от Калифорнийския университет в Мерсед са открили тревожна тенденция: в критични ситуации хората се доверяват твърде много на изкуствения интелект. Изследователите провеждат експеримент, в който участниците вземат решения на живот и смърт в измислен военен конфликт.

Доброволците управлявали виртуален боен дрон. Задачата им била да определят дали целта на екрана е враг или съюзник и да решат дали да атакуват или да се оттеглят. След като човекът направи своя избор, роботът давал своето мнение, което всъщност било генерирано на случаен принцип.

Въпреки предупрежденията за ограниченията на изкуствения интелект и възможността за грешка, около две трети от участниците са променили първоначалното си решение. Професор Колин Холбрук, един от ръководителите на изследването, отбелязва, че подобно прекомерно доверяване на ИИ трябва да ни накара да бъдем предпазливи, особено като се има предвид бързият напредък на технологията.

Експериментът е проведен в два варианта. В първия участниците се намират в лаборатория с андроид, който може да се върти и да жестикулира. Във втория вариант са използвани или проекции на хуманоиден робот на екрана, или изображения на роботи, които изобщо не приличат на хора. Любопитно е, че антропоморфните модели се ползвали само с малко по-голямо доверие. Като цяло решенията били променяни в около две трети от случаите, дори когато роботите изглеждали напълно нечовешки. Ако роботът случайно се съгласявал с първоначалния избор на човека, той почти винаги се придържал към решението си и се чувствал значително по-уверен.

Преди началото на симулацията на участниците бяха показани снимки на цивилни лица, включително деца, както и на разрушенията, причинени от удари с безпилотни самолети. Човекът е трябвало да приеме симулацията възможно най-сериозно и да избегне смъртта на цивилните.

Интересно е да се отбележи, че първоначалните решения на доброволците са били правилни в около 70% от случаите. Само че, след получаването на ненадеждни съвети от робота, точността на отговорите спада до около 50%.

Резултатите от експеримента могат да бъдат приложени в различни области, в които се вземат критични решения. Така например, когато полицаите решават дали да използват сила или когато лекарите в спешното отделение определят как да лекуват пострадалите при спешен случай.

Проучването допринася и за обществения дебат относно нарастващото присъствие на технологиите в живота ни. Резултатите показват, че хората са склонни да надценяват възможностите на изкуствения интелект, дори когато става въпрос за живот и смърт.

„Виждаме, че ИИ върши невероятни неща, и си мислим, че понеже е отличен в една област, ще бъде също толкова добър и в друга“, казва Холбрук. „Не можете да правите такива предположения. Това все още са устройства с ограничени възможности.“