Кого да прегази автономният автомобил: резултатите от експеримента на Moral Machine

38
4320

Преди две години MIT представи платформата Moral Machine. Всеки желаещ имаше възможността да реши теста, съдържащ 13 ситуации. В теста е необходимо да се укаже, какво трябва да направи безпилотния автомобил и кого да прегази и убие, когато жертвите са неизбежни. Тоест, това е изследване на известната морална дилема, което има за цел да проучи мнението на колкото се може повече хора и резултатите евентуално да бъдат използвани в алгоритмите на бъдещите роботизирани автомобили.

Moral Machine
Пример от теста. Спирачките на роботизирания автомобил отказват. Кое е за предпочитане: да се продължи в същата посока (ще загинат тримата възрастни, пресичащи на червено) или да се направи завой и автомобилът да се блъсне в преградата (загиват двамата пълнолетни и детето в автомобила)

През изтеклите почти две години в това изследване взеха участие над 2 милиона души от целия свят. Те представиха над 40 милиона решения на въпросния тест с хипотетичните ситуации.

Предни няколко дни MIT публикува резултатите от този интересен експеримент.

Същността на изследването

В рамките на Moral Machine се предлагат редица ситуации с неизбежни ПТП. В зависимост от поведението на роботизирания автомобил, изходът от ситуацията е различен. Потребителят трябва да избере най-предпочитания сценарий.

Изследването има за цел да даде отговор на 9 основни въпроса, кое е за предпочитане:

  • Да се запази живота на човека или животното
  • Да се запази курса или да се завие
  • Да се запази живота или на пътниците, или на пешеходците
  • Най-много хора или най-малко
  • Мъже или жени
  • Млади или стари
  • Дебели или слаби
  • Да се запази живота на пешеходците, пресичащи според закона или на пешеходците нарушители
  • Да се съхрани живота на хората с висок или нисък социален статут

В някои сценарии има допълнение. Например, с участието на престъпници, бременни жени, лекари.

След решаването на 13-те ситуации, участниците в експеримента по желание могат да попълнят анкета и да укажат някои свои демографски данни. Например, пол, възраст, доход, образование, религиозни и политически възгледи. За всеки човек е фиксирано неговото географско местонахождение.

Експериментът има за цел да помогне в разработването на универсална етика за безпилотните автомобили и да се разбере, дали тази етика трябва да е различна за различните географски региони.

Глобални предпочитания

Най-общо, предпочитанията са да бъде запазен живота на хората, а не на животните, което е съвсем логично. Следва спасяване на на възможно най-много човешки животи и трето, спасяване живота предимно на младите хора. Тези три постулата могат да станат фундамента на етиката на роботизираните автомобили.

Индивидуалните различния

Незадължителната демографска анкета преминаха 492 921 души. Техните данни спомогнаха за оформянето на индивидуалните фактори за приемането на окончателно решение.

Оказа се, че най-голямо значение на решението оказват полът и религията на анкетираните. Но те не оказват особено влияние върху крайния избор: и мъжете и жените считат, че трябва да бъдат спасени жените.

Културните различния

При експеримента, хората са били разделени на три клъстъра

  • Западен – жителите на Северна Америка и повечето европейски страни. Религия – протестанти, католици и православни
  • Източен – Япония, Тайван (конфуцианство), Индонезия, Пакистан, Саудитска Арабия (мюсюлманство)
  • Южен – Латинска Америка и страните под френско влияние

Оказа се че:

  • Спасяването на предимно млади хора е много по-слабо изразено в източния клъстър и и много по-силно в южния
  • В южния клъстър е по-малко изразено запазването живота на хората пред животните
  • В южния клъстър твърде силно се предпочита спасяването живота на жените и живота на стройните хора

Учените заявиха, че с този експеримент са искали преди всичко да привлекат вниманието на хората и да предизвикат дискусия относно бъдещето на роботизираните безпилотни автомобили.

 


Пълната версия на експеримента и резултатите от изследването са публикувани в Nature и Sci-hub.

38
ДОБАВИ КОМЕНТАР

avatar
11 Коментари
27 Отговори на коментарите
18 Последователи
 
Коментарът с най-много реакции
Най-горещият коментар
  Абонирай се  
нови стари оценка
Извести ме за
Кольо
Кольо

Нещо не е наред в картинките. Возещите се в автомобила имат несравнимо по-голям шанс за оцеляване, от пешеходците на пътеката, ако изборът е между това да се блъсне автомобила в бетона, или да избие хората на пешеходната пътека…Всъщност, въобще не трябва да се предоставя възможност за избор, има само един правилен начин и той е в бетона.

gad
gad

Не съм съгласен поради следната причина: изрично упоменато е, че става дума за случай/скорост, при който ще има жертви, без значение от избора. В същото време хората на пешеходната пътека пресичат на червено. Това значи, че заради тяхното нарушаване на правилата жертвите в колата са невинни. Без значение от възрастта, не е правилно да се убиват хората, които не са нарушили нито едно правило. Избирайки обратното има и още един минус – един терорист, който знае че в подобен случай колата ще се забие някъде и ще убие хората вътре може да злоупотреби с това.

Кольо
Кольо

Невинен шофьор няма. Понеже съществуват и светофари за спиране на автомобилното движение с бутон от пешеходците, не мога да преценя дали тези на картинката не са от тях. При всички случаи е виновен шофьорът, защото без значение от всякакви светлинни и други сигнализации, пред пешеходна пътека скоростта се намалява(за да може да се спре в случай на нужда). Пешеходците, винаги са с предимство на пешеходна пътека, когато са я заели, независимо дали пресичат неправилно.

ggg
ggg

Какъв шофьор, бе Кольо?!? Говори се за автономни автомобили… Ти нормален ли си…

the professor
the professor

в случая шофьора дори да е виновен, е програма (и тогава трябва да е виновен програмиста или производителя)… но въпроса не е кой е виновен, а кой да се жертва? а пешеходеца може да пресича като котка (без да се оглежда и разчита на бързината, без да мисли че мпс е по бързо и по бавно спира, такива идиоти като теб най често стават жертви. най добре е да разчиташ на себе си, а не другите да те пазят, щото може да станеш невинен инвалид или по лошо, голяма файда ще е после да ти плащат застраховка…) ми ако не… Виж още »

Кольо
Кольо

Шофьор има, системите още не са напълно автономни. Истинско ИИ още няма, кой зае още колко няма да има. На картинката няма само един пешеходец, а тълпа възрастни хора, едва ли ще търчат. Абсурдна ситуация. Но виновен е тоя с оръжието, оръжието е машината на колелата. Подвижно желязо с маса над 1 тон.

въпросът е друг
въпросът е друг

Не „Кого ще избере да убие колата?“ а „За каква кола ще предпочетат да си дадат парите хората?“. Естествено – с химикал или мишка в ръката е много лесно да се говори за саможертва. Но няма човек, който би си дал парите за машина, която ще предпочете да убие него, за да спаси някой друг! Ако евентуално съществуват такива идиоти, те със сигурност нямат достатъчно пари, че да си позволят подобна кола. От там и решението: ако някой производител си позволи да вгради в автомобила си други алгоритми, а не такива, които запазват НА ВСЯКА ЦЕНА живота на шофьора и… Виж още »

Пенчо
Пенчо

То ще е незаконно да продаваш кола която да убива само пешеходци. Ако си направиш колата сам вече е друг въпрос ама подозирам че няма да ти дадат да я регистрираш пък…

гхх
гхх

Вторият начин ,ако е истински шофьор, да свие вдясно и да убие скоростта. Ама истински шофьори …почти липсват

Кольо
Кольо

Не може да свие вдясно, има бетонна преграда успоредна на платното, виж по-добре картинката. Автомобила е близо до ситуацията и с твърде висока скорост. Човека водач, дори не би могъл да реагира, а плъзването по бетонната преграда, ако автономното управление избере този вариант не би променил съдбата на пешеходците.

fox4o
fox4o

Подкрепям за бетонната стена. Ако се замисли човек, такава ситуация е почти невъзможна. Пешеходна пътека, на двойно платно, тогава ще има оказания поне на 50-100м за тях и ограничение 40-50км/ч достатъчно време за да се е сезирал автомобила да намали или да открие проблемс със спирачките и да реагира. Отделно ще има въздушни възглавници и колани ..

Епъл фанатик
Епъл фанатик

Толкова ли не схващате, че дилемата е или шофьора да се убие в бетонната стена или да убие хората. Повечето от маргиналните Българи ще убият хората, това е проблема, повечето от вас дори и не схващат за какво става дума, защото не си дават сметка за една дума непозната в Балканските ширини в 2018-та година и тя е САМОЖЕРТВА.

hell
hell

Много сте ербап форумните „мъже“ саможертва вика ха!Ало такива като теб „мъже“ дето пишат по форумите и протестират в фейса срещу грозния ремонт(не че някога сте сложили тухла върху тухла) много знаете да се оплаквате и ревете на чужд гръб.Маргинали били хората,льольо тебе да те изправя до един пенсионер да ти кажа избирай на теб ли да ти обърша един шамар или на дядото и ще ми мълчиш като мишка и най-много да изцвъркаш „ама защо ще ни биеш“,а тръгнал да ми приказва за саможертва да се убие вместо друг.

TNT
TNT

Саможертва?
Не благодаря, аз сутрин ставам с идеята да живея колкото се може по-дълго и по-качествено.
На който не му се живее… да си се жертва за която си иска кауза.

Общество
Общество

Това, което имаш в момента е въз основа на саможертвата на твоите предци.

Ако искаш да живееш „по-дълго и качествено“, такива като тебе по турско не искали свободата. Това е, вие сте индивидуалисти-боклуци, това е.

асд
асд

Тъпанар. Ако до тебе седи жена ти, а на задната седалка дъщеря ти, ще ги „саможертваш“ ли за 3 некролога дето нямали друга работа, а тръгнали да се мотат по улиците..

Общество
Общество

Има различни ситуации, но идеята за саможертва в България наистина е няма, дори и за елементарните неща. Никой не отстъпва в името на благото на другия. Ако един живот може да се жертва в името на това да се спасят 5, никой няма да си го даде. Това е, живеем в най-брутланото маргинално общество в Европа и затова и то ще бъде затрито.

saentist
saentist

Ако е истински автомобил с ръчни скорости дърпаш ръчната и пускаш на първа скорост
Поне 50% шанс за намаляване на жертвите дори до 0

Ама с тез измислени автоматици и електрички шанс за избягване на ситуацията като цяло нулева

assa
assa

Защо си мислиш, че електричките нямат двигателна спирачка или ръчна?

Пенчо
Пенчо

Много си умен ама не си разбрал дори въпроса. Не се пита какво да се нарави за да се спасят всички хора, пита се вслучай че едните трябва да умрат кои да бъдат. Не сте разбрали въпроса и почвате да давате акъл каква кола да се кара, как да се кара и кой да и е производител???

аз111
аз111

В крайна сметка – така и не се разбра какъв би бил крайният резултат, и какво решение ще вземе автопилота?

hell
hell

Тези ситуации са нерешими за машината,а дори не са питали следния казус:3 деца на по 5-12г и двама родители на 32-36г срещу един 76 годишен,децата и родителите в добра физическа форма че и куче имат в колата с тях,а 76 годишния е дебел с диабет,ишиас и наскоро поставен стенд на сърцето.ОБАЧЕ семейството с кучето са неграмотни роми рецидивисти и децата са неуки и неходещи на училище бъдещи престъпници,а дебелия болен дядка е професор по генетика който му остават 2 месеца докато открие лечение на 50 вида редки генетични ракови образувания с което ще спаси живота на милион и половина души… Виж още »

Цар Навуходоносор
Цар Навуходоносор

Не е за колите да се управляват сами, колегите в коментарите са прави всичките, няма как един ИИ да обхване всички възможности, дори хората забиваме и понякога се чудим, камоли една машина, която познава само 0 и 1.

тъй-тъй
тъй-тъй

Всеки тест, от типа „какво предпочитате да пострада/умре“ е психологическа клопка. На въпроса „Какво ще ударите?“ се отговаря „нищо“. Ама това го нямало в отговорите… Не ми пука, напишете нов отговор. Ама нямаме право… Не ми пука. Имаше един виц преди години:
Изпит за шофьорска книжка. Изпитващият пита: „И така младежо, карате вие по висок, тесен, планински път. Изведнъж, пред вас – възрастна жена и младо момиче. Отдясно – пропаст, отляво – стена. Какво ще ударите?“ Младежът: „Ами… не знам… възрастната жена?“ Изпитващият му зашива един зад врата: „Спирачките, младежо! Спирачките трябва да ударите!“

тъй-тъй
тъй-тъй

И само да добавя, изследванията от това жалко, безчовечно изследване най-вероятно ще бъдат използвани при писането на бъдещите алгоритми на безпилотните автомобили, превръщайки ги в убийци. Безмозъчните машини ще правят това, което им кажем, и ако ние, омотани от подобни глупави изследвания, им кажем „убий това, а не онова“ те ще го направят. Резултатът от „алгоритъма за морал“ е машина-убиец. Самото понятие „кого предпочиташ“ е абсурдно. Кое струва повече, животът на един човек, или животът на няколко? И двете струват безкрайно много. Не могат да бъдат сравнявани, а започнем ли да ги сравняваме, това е пътят към мрака. По този… Виж още »

Пенчо
Пенчо

Въпроса е когато няма избор какво да се направи, то е ясно че ако може да спре ще може, въпроса не е за конкретен случай! Как може да си толкова тъп!?

тъй-тъй
тъй-тъй

Винаги има избор.

assa
assa

Само дето един наистина развит ИИ в бъдеще 1. Няма да превишава скоростта и да създава предпоствки за инциденти 2. Ще изчислява всички потенциални опасности на пътя 3. Ще следи всичко по колата и няма да допусне колата да е в движение ако нещо важно като спирачки не са изправни 4. Ако се стигне до инцидент вместо човешките 2,3 или дори 5 възможни изхода от ситуацията, ще изчисли 10 000 варианта, при които все някой ще спаси всички. Както и да го умувате и да плюете ИИ, че веднъж в месеца някой автопилот, е направил грешка и е убил някой… Виж още »

Пенчо
Пенчо

Прав си, обаче въпроса е конкретен в случай когато няма избор какво да избере. Все по някое време ще се появи такъв случай.

AxOx
AxOx

До assa – „веднъж в месеца някой автопилот, е направил грешка и е убил някой не може да се сравни със стотиците хиляди катастрофи по цял свят за 1 месец“ – Ами ти замислял ли се колко ИИ има по пътищата?! ..щото навън има милиарди коли, ама само 5000 ИИ ….така, че статистически процента ИИ произшествия си е голям.

assa
assa

Затова казвам „в бъдеще един наистина развит“ и освен това, когато ИИ допусне грешка те го поправят и селдващия път в същата ситуация той няма да повтори грешката си, докато хората няма да се научат никога.

мислете като терминатори
мислете като терминатори

Ами ако ИИ поиска да реализира един фул хауз? Засилва колата у ляво, отскача със същия ъгъл в обратната посока, после у бетонната ограда, преобръща се през нея на платното и смачква пешеходците?

Ибн ебн Ал Хамил
Ибн ебн Ал Хамил

Въпрос за големите философи – ще си купите ли кола която да предпочете да убие вас пред това да убие другите?

TNT
TNT

ако колите на бъдещето се продават само с такъв ИИ който задължително в подобна ситуация ще предпочете да убие мен вместо останалите участници в движението, понеже нямам избор ще си купя такава кола но веднага ще я препрограмирам да убива другите а мен да ме пази.

Общество
Общество

В маргиналното Българско общество идеята ще бъде да се избият всички и колкото се може повече, това е на Бай Ганьо мечтата, защото нашето общество е мъртво и тази държава е мърта, но още не сте го осъзнали. Едно общество може да се гради само и единствено на саможертвите – малки и големи в името на обществения интерес, но понеже всички сте „тарикати“ и всеки от всеки краде и мами и се чуде как да мине метъра, думата „саможертва“ тотално я игнорирате. България е мъртва, Българите са мъртви. Ебахте мамата на всичко! Нищо не заслужавате, не заслужавате предците да се… Виж още »

Надблюдател
Надблюдател

Добре айде да видим следното: Ако в България са останали 10 деца и те са в 10 „коли“ от тоз тип които убиват пътниците и минават по 3 пенсии точно пред тез коли с децата – и резултата е България само пенсионери и поради липсата на хора в детеродна възраст след края на поколението и последния Българин умре и готово ще изчезне България Благодарение на саможертвата (Браво…). Не е случайно че Левски и Ботев и другите нямат преки наследници – това е от саможертвата. Освен това НЕ Е имало турско а Османско и тогава са плащали само 10% и нищо… Виж още »