Как изкуственият интелект може да стане по-справедлив към хората?

4
537

Изкуственият интелект, изглежда, може да намери начин как да направи почти всичко. Той може дори да симулира Вселената, да се научи да подрежда кубчето на Рубик само с една ръка и дори да намира призраци скрити в миналото и несъзнаваното ни.

Всички тези напредъци са предназначени да бъдат за наше добро. Но какво да кажем, когато не са? В последно време алгоритмичните системи, които вече се отразяват на живота на хората, демонстрират тревожни нива на пристрастие в работата си, правят неща като предсказване на престъпността по расови белези и определяне на кредитните лимити и платежоспособността на хората въз основа на пола.

На този фон как учените могат да гарантират, че съвременните системи за изкуствен интелект и алогиртми могат да бъдат справедливи и най-вече безопасни?

Ново проучване, ръководено от изследователи от Университета в Масачузетс, Амхерст, изглежда предлага отговор, описвайки рамка за предотвратяване на това, което екипът нарича „нежелано поведение“ в интелигентните машини.

„Когато някой прилага алгоритъм за машинно обучение, е трудно да се контролира поведението му“, казва изследователят по машинно обучение Филип Томас.

„Улесняване на осигурването на справедливост и избягването на вреди стават все по-важни мисии, тъй като алгоритмите за машинно обучение влияят на живота ни все повече и повече.“

Рамката, която би могла да помогне на изследователите на ИИ да разработят нови видове алгоритми за машинно обучение не е свързва ИИ с присъщо разбиране за морал или справедливост, а по-скоро улеснява изслесователите да определят и регулират нежеланото поведение, когато проектират основните си алгоритми.

В основата на новата система са онова, което екипът нарича алгоритми „Селдонов“, кръстен на главния герой на известната поредица от научнофантастични романи на Айзък Азимов. Тези алгоритми не се отнасят само за осигуряване на етична работа; може да се контролира всякакъв вид поведение, като сложни характеристики за безопасност в медицинските системи.

„Ако използвам алгоритъм на Селдонов за лечение на диабет, мога да уточня, че нежеланото поведение означава опасно ниска кръвна захар или хипогликемия“, казва Томас.

„Мога да кажа на машината:„ Докато се опитвате да подобрите контролера в инсулиновата помпа, не правете промени, които биха увеличили честотата на хипогликемията “. Повечето алгоритми не ви дават начин да поставите този тип ограничения в поведението; той не е включен в ранните проекти. „

Като част от своите изследвания, екипът разработи точно такъв алгоритъм на Селдониан за контрол на автоматизирана инсулинова помпа, идентифицирайки пригоден начин за безопасно прогнозиране на дозите за човек въз основа на отчитането на кръвната му захар.

В друг експеримент те разработиха алгоритъм за прогнозиране на GPA на учениците, като избягват отклоненията между половете, открити в често използвани регресионни алгоритми.

4
ДОБАВИ КОМЕНТАР

avatar
3 Коментари
1 Отговори на коментарите
0 Последователи
 
Коментарът с най-много реакции
Най-горещият коментар
  Абонирай се  
нови стари оценка
Извести ме за
Skynet system
Skynet system

Cправедливост :

Каквото правиш – ИИ ще те прави за напреде чрез другите.

Ohoh
Ohoh

Алгоритмите много правилно си избират признаците по които да вземат решение. Просто на някои хора не им харесва да признаят това.

Мърморят по какви признаци вземат решение алгоритмите, а не доколко правилни се оказват тези решения! Ако един алгоритъм дава верни резултати, аз ще го ползвам.

Чип за зеле
Чип за зеле

Пази Боже някой ден ИИ да стане справедлив към хората. Ще почне да ни изтрепва като хлебарки.

Name
Name

Пази Боже ИИ да прогледа…. И в същия библейски формат. Блажени са вярващите,че с идването на ИИ всеки, дори и най-мизерния клошар ще си има по един робот с последния модел ИИ да работи за него и да му изкарва парички докато оня си мързелува някъде на спокойствие. Ха. ИИ ще работи здраво за богатите за да станат още по богати докато бедните ще стават още по бедни. Това никога няма да стане общодостъпна и евтина технология. Колкото и фантастични филми да направят на тази тема. п.с. А ИИ няма да започне да „изтрепва“ докато богатити му собственици платили за… Виж още »