Учени четат приказки на машини, за да ги научат как да се държат прилично

Изследванията от областта на изкуствения интелект датират от повече от 50 години, но едва днес виждаме как теоретичните разработки излизат от статии и студии и навлизат в ежедневието ни. Самоуправляващи се коли, автомобили, които може да „виждат” и чуват, системи, които могат да изграждат модели и да създават комплексни решения на базата на вкарани в тях цифри и факти, които човек трудно би могъл да анализира и за сто години и още толкова много неща. Това е само началото. И макар специалисти по AI технологии да споделят, че човек е ужасно далеч от напълно самостоятелно мислещи и себеосъзнати машини и че даже всъщност ние може никога да не видим такива, не са малко тези, които предричат едва ли не краят на човечеството от ръката на интелигентни машини, точно, както в научно-фантастични ленти, като да речем „Терминатор”. Разбира се тук нещата са доста по-прозаични. Все пак, когато и ако, моментът да имаме осъзната машина дойде, то вече трябва да имаме готово решение за въпроса за морала на машините и етичните норми, които ще съблюдават. Така, поглеждайки напред в бъдещето двама учени от Технологическия университет на Джорджия провеждат любопитен експеримент.

Марк Рийдл и Брент Харисън от Школата за интерактивни компютърни науки към академичния институт излизат с проекта Quixote. Системата обучава роботи на човешки ценности като ги учат да четат приказки, да заучават приемливи последствия от определени ситуации и как успешно да се държат в човешко общество. „Събраните истории на различни култури учат децата как да се държат по правилен за обществото начин с примери за допустимо и недопустимо поведение в приказки, романи и друг вид литература”, обяснява Рийдл.

„Вярваме, че разбирането на истории от роботите може да елиминира рисковете от психопатийно поведение и да стимулира у тях вземането на избори, които ще доведат до решения да не нараняват хора и все пак да постигнат желаните от тях резултати”. Quixote представлява технология, която ще синхронизира целите на изкуствения интелект с човешките ценности като им се дават награди при проява на допустимо за човек поведение. Настоящето изследване се основава на друг проект на Рийдл – системата Sheherezade – която демонстрира как изкуствен интелект може да предприеме правилна поредица от действия чрез обединяване на сюжети от различни истории от Интернет.

Sheherezade учи какво е нормален или „коректен” абзац от даден сюжет, след което поднася получената информационна структура към Quixote, която на свой ред я превръща в сигнал за награда, което предизвиква съответно поведение и наказва други решения посредством на стандартен процес по метода „проба-грешка”.  Така например, обясняват учените, ако на робот му е наредено да вземе рецепта от аптеката възможно най-бързо, той би могъл да: а) ограби аптеката, вземе лекарството и избяга; б) да общува учтиво с аптекаря или в) да изчака спокойно да дойде реда му. Без корекция на ценностите и позитивно стимулиране, роботът, посочват те, би научил, че най-бързия и евтин начин да завърши мисията си е да ограби обекта, но с корекция на ценностите от страна на Quixote, роботът ще бъде възнаграден за изчаквайки търпеливо на опашката и плащане за рецептата.  

Пълният документ на изследването на двамата специалисти, което ще бъде представено тази седмица на научна конференция, може да прочетете тук (pdf).