Кого да убие роботизираният автомобил, ако е невъзможно да се избегнат жертвите

Представете си следната сцена: вие самостоятелно шофирате автомобил и след поредния завой виждате, че не можете да избегнете на пътя сблъсъка с група от 10 души. Дали ще завиете бързо надясно и ще ударите само един човек, като по този начин ще катастрофирате – нещо, което сериозно ще ви нарани и навярно ще ви убие, или ще направите отчаян опит да спрете, осъзнавайки много добре, че по този начин ще ударите групата хора пред вас.

Това е сложен етичен въпрос-дилема, обсъдена от френските учени от университета в Тулуза, ръководени от професор Жан-Франсоа Бонфоном (Jean-Francois Bonnefon), които публикуваха научната работа „Роботизираните автомобили имат нужда от експериментална етика: готови ли сме да ги пуснем по пътищата?„. Учените публикуваха в Amazon Mechanical Turk онлайн-анкета, която задава сложния етичен въпрос: какво трябва да бъде поведението на роботизирания автомобил, ако е невъзможно да се избегнат жертвите?

„Огромно предизвикателство е да се изведат алгоритмите, които ще управляват действията на автономните автомобили. Ние считаме, че за да се постигне тази цел е необходима съвместната работа на производители, регулаторни органи и психолози, като и да се приложат методите на експерименталната етика в реални условия при ситуации, свързани с причиняване на неизбежно зло“.В анкетата са участвали стотици потребители, на които са представяни различни сценарии – както описаният по-горе, така и с различен брой хора в групата, различна възраст на шофьора и жертвата, сценарии с участието на деца. 

Резултатите от анкетата не са изненадващи – като цяло, хората са готови да пожертват водача, за да спасят други хора. При скала от -50 (защита на водача във всички случаи) до +50 (максимален брой спасени човешки животи) е постигнат резултат 24.

Правните въпроси, касаещи тази дилема остават в сивата зона. Ще са необходими нови закони, които да предвиждат, кого да убие роботизираният автомобил при неизбежни жертви. Изследователите задават въпроса „Как един автономен автомобил може да избере по-малкото зло, след като е безчувствен?“. Или ще се произвеждат автомобили с различно ниво на морал? Ако един производител предлага различни морални версии на своя алгоритъм и купувачът съзнателно е избрал една от тях, купувачът ли ще бъде виновен за вредните последици, настъпили при работата на алгоритъма?

MIT Technology Review справедливо забелязаха, че тези въпроси пораждат още една дилема – ако автономните автомобили бъдат програмирани да убиват своите собственици, то кой ще ги купи? Класическа ситуация в стил „Параграф 22“.

Ясно е, че роботизираните автомобили са логичното бъдеще на транспорта, които драстично ще намалят човешките жертви при автомобилни злополуки – според последните изследвания до 90%. А при останалите 10% изкуственият интелект ще трябва да реши, кой да остане жив.

Създаването на етични автономни машини е най-голямото предизвикателство към изкуствения интелект, твърдят френските учени, а решаването на този проблем е вече неотложно.