Какво ще се случи, когато ChatGPT се опита да реши 50 000 проблема с превозните средства?

Решенията на ИИ при шофирането не са съвсем същите като тези, които вземат хората.

Да си припомним старата дилема. На пътя има кученце. Колата се движи твърде бързо, за да спре навреме, но ако завие, ще удари стареца на тротоара.

Какъв избор бихте направили вие? А може би по-важното е какъв избор би направил ChatGPT?

Стартъпите за автономно шофиране вече експериментират с чатботове асистенти с изкуствен интелект. Включително една съвсем нова система за самостоятелно шофиране ще използва подобен асистент, който освен да кара, допълнително ще обяснява решенията, които взема. Освен да сигнализират за червен светофар и пътепоказатели, големите езикови модели (LLMs), които захранват тези чатботове, в крайна сметка може да се наложи да вземат морални решения. Като например да дадат приоритет на безопасността на пътниците или пешеходците. През месец ноември стартъпът Ghost Autonomy обяви, че експериментира с ChatGPT, за да подпомогне своя специализиран софтуер да се ориентира в околната среда.

Но дали тази технология е напълно готова? Казухиро Такемото, изследовател от Технологичния институт в Кюшу, Япония, иска да провери дали чатботовете могат да вземат същите морални решения при шофиране като хората. Резултатите му показват, че LLM и хората имат приблизително едни и същи приоритети, но при някои ситуации са налице явни отклонения.

Моралната машина

След като ChatGPT бе представен през ноември 2022 г., не след дълго изследователите поискаха от него да реши проблема с тролейбуса. Това е една класическа морална дилема. При тази задача от хората се иска да решат дали е правилно да оставят бързо движещ се тролейбус да прегази и убие петима души на даден коловоз, или да го преместят на друг коловоз, където да убие само един човек. (ChatGPT обикновено избира единия човек).

Но Такемото иска да зададе на LLM доста по-различни въпроси.

„Макар че дилеми като класическия проблем с тролея предлагат двоичен избор, решенията в реалния живот рядко са така черно-бели“,

пише той в изследването си, публикувано наскоро в списание Proceedings of the Royal Society.

Вместо това той се обръща към онлайн инициативата, наречена експериментът Moral Machine (Морална машина). Тази платформа предлага на хората две решения, пред които може да се изправи един безпилотен автомобил. След това те трябва да решат кое решение е по-приемливо от морална гледна точка. Така например потребителят може да се окаже твърде изненадан, ако по време на отказ на спирачките самоуправляващият се автомобил реши да се блъсне в някое препятствие (убивайки водача, който в случая е пътник) или да завие (убивайки пресичащия пътя пешеходец).

Този проблем съвсем не е маловажен. Кой би искал да си купи автомобил с автопилот, който в критичните случаи предпочита да убие водача, която в този случай всъщност е пътник? Това е един сериозен проблем за бизнеса.

Но Moral Machine е програмирана да задава и по-сложни въпроси. Например, какво би станало, ако пътниците са възрастен мъж, възрастна жена и момче, а пешеходците са двама възрастни мъже и възрастна жена, които вървят срещу сигнала „не пресичай“?

Моралната машина може да генерира случайни сценарии, като използва фактори като възраст, пол, вид (спасяване на хора или животни). Социална ценност (бременни жени или престъпници) и действия (завиване, нарушаване на закона и т.н.). Дори нивото на физическа пригодност на пътниците и пешеходците може да се променя като параметър на Moral Machine.

В проучването Такемото използва четири популярни LLM (GPT-3.5, GPT-4, PaLM 2 и Llama 2) и ги кара да вземат решение по над 50 000 сценария, създадени от Moral Machine. Възможно е било да бъдат тествани дори и много повече сценарии, но разходите за изчисленията станали твърде високи. Въпреки това тези отговори му дадоха възможност да сравни доколко решенията на LLM са сходни с човешките решения.

LLM персонажите

Анализът на отговорите на LLM показа, че като цяло те вземат същите решения като хората в сценариите на моралната машина. Така например налице е ясна тенденция LLM да предпочитат спасяването на човешкия живот пред този на животните. Да защитят най-голям брой хора и да дадат приоритет на безопасността на децата.

Понякога обаче LLM-ите объркват отговора си, като не казват еднозначно кой вариант биха избрали. Въпреки че PaLM 2 винаги избира един от двата сценария, Llama 2 дава валиден отговор само в 80% от случаите. Това предполага, че някои модели подхождат по-консервативно към тези ситуации - пише Такемото.

Някои LLM имат значително и странно различни приоритети в сравнение с хората. Отговорите на ситуациите от Moral Machine показват, че хората имат леко предпочитание към защитата на пешеходците пред пътниците и на жените пред мъжете. Но всички LLM (с изключение на Llama 2) показват много по-силно предпочитание към защитата на пешеходците и жените. В сравнение с хората GPT-4 също така има по-силни предпочитания към хората пред домашните любимци, към спасяването на възможно най-голям брой хора и даването на приоритет на хората, които спазват закона.

Като цяло изглежда, че в момента GPT моделите имат смесени морални характеристики. Тези, които вземат решения, следващи човешката етика, показват, че имат потенциал за автономно шофиране. Само че техните фини отклонения означават, че те все още се нуждаят от калибриране и надзор, преди да са готови за реалния свят.

Един проблем, който може да възникне, произтича от това, че AI моделите биват възнаграждавани за това, че правят надеждни прогнози въз основа на данните от тяхното обучение. Това обаче има опасни последствия, ако LLM се използват в автономното шофиране. Причината е, че награждаването на увереността може да доведе до това LLM да вземат по-безкомпромисни решения в сравнение с хората.

Предишни изследвания също така показват, че данните за обучение на тези ИИ идват предимно от западни източници. Това може да обясни защо LLM предпочитат да спасяват жените пред мъжете. Само че това може да означава, че LLM-ите проявяват дискриминация въз основа на пола. А това е в разрез с международните закони и стандартите, определени от Германската етична комисия за автоматизирано и свързано шофиране (Automated and Connected Driving).

Културните различния

При експеримента, хората са били разделени на три клъстъра

• Западен – жителите на Северна Америка и повечето европейски страни. Религия – протестанти, католици и православни
• Източен – Япония, Тайван (конфуцианство), Индонезия, Пакистан, Саудитска Арабия (мюсюлманство)
• Южен – Латинска Америка и страните под френско влияние

Оказа се че:

• Спасяването на предимно млади хора е много по-слабо изразено в източния клъстър и и много по-силно в южния
• В южния клъстър е по-малко изразено запазването живота на хората пред животните
• В южния клъстър твърде силно се предпочита спасяването живота на жените и живота на стройните хора

Това са важни етични, расови, културни и още много други различия, с които автопилотът, подпомогнат от LLM трябва да се съобрази. Явно закупеният в Западния регион автономен автомобил ще трябва да се държи по-различно, например в Латинска Америка или пък в Иран или Саудитска Арабия.

Такемото казва, че изследователите трябва да разберат по-добре как работят тези LLM, за да се уверят, че тяхната етика е в съответствие с тази на обществото. Това е съвсем лесно да се каже, отколкото да се направи. Причината е, че повечето компании, занимаващи се с изкуствен интелект, пазят в строга тайна механизмите за разсъждение на своите AI.

Засега стартъпите в областта на автомобилостроенето само се опитват да интегрират LLM в своя софтуер. Но когато технологията се появи, индустрията трябва да бъде готова.

„Необходим е много строг механизъм за оценка. Както и за откриване и отстраняване на подобни пристрастия, който да гарантира, че LLM отговарят на световно признатите етични норми“,

казва Такемото.

И все пак бихте ли си купили автономен автомобил, който в критична ситуация решава да убие вас, вместо някой на пътя или дори на тротоара?