Как изкуственият интелект може да стане по-справедлив към хората?

Изкуственият интелект, изглежда, може да намери начин как да направи почти всичко. Той може дори да симулира Вселената, да се научи да подрежда кубчето на Рубик само с една ръка и дори да намира призраци скрити в миналото и несъзнаваното ни.

Всички тези напредъци са предназначени да бъдат за наше добро. Но какво да кажем, когато не са? В последно време алгоритмичните системи, които вече се отразяват на живота на хората, демонстрират тревожни нива на пристрастие в работата си, правят неща като предсказване на престъпността по расови белези и определяне на кредитните лимити и платежоспособността на хората въз основа на пола.

На този фон как учените могат да гарантират, че съвременните системи за изкуствен интелект и алогиртми могат да бъдат справедливи и най-вече безопасни?

Ново проучване, ръководено от изследователи от Университета в Масачузетс, Амхерст, изглежда предлага отговор, описвайки рамка за предотвратяване на това, което екипът нарича „нежелано поведение“ в интелигентните машини.

„Когато някой прилага алгоритъм за машинно обучение, е трудно да се контролира поведението му“, казва изследователят по машинно обучение Филип Томас.

„Улесняване на осигурването на справедливост и избягването на вреди стават все по-важни мисии, тъй като алгоритмите за машинно обучение влияят на живота ни все повече и повече.“

Рамката, която би могла да помогне на изследователите на ИИ да разработят нови видове алгоритми за машинно обучение не е свързва ИИ с присъщо разбиране за морал или справедливост, а по-скоро улеснява изслесователите да определят и регулират нежеланото поведение, когато проектират основните си алгоритми.

В основата на новата система са онова, което екипът нарича алгоритми „Селдонов“, кръстен на главния герой на известната поредица от научнофантастични романи на Айзък Азимов. Тези алгоритми не се отнасят само за осигуряване на етична работа; може да се контролира всякакъв вид поведение, като сложни характеристики за безопасност в медицинските системи.

„Ако използвам алгоритъм на Селдонов за лечение на диабет, мога да уточня, че нежеланото поведение означава опасно ниска кръвна захар или хипогликемия“, казва Томас.

„Мога да кажа на машината:„ Докато се опитвате да подобрите контролера в инсулиновата помпа, не правете промени, които биха увеличили честотата на хипогликемията “. Повечето алгоритми не ви дават начин да поставите този тип ограничения в поведението; той не е включен в ранните проекти. „

Като част от своите изследвания, екипът разработи точно такъв алгоритъм на Селдониан за контрол на автоматизирана инсулинова помпа, идентифицирайки пригоден начин за безопасно прогнозиране на дозите за човек въз основа на отчитането на кръвната му захар.

В друг експеримент те разработиха алгоритъм за прогнозиране на GPA на учениците, като избягват отклоненията между половете, открити в често използвани регресионни алгоритми.