Да поговорим за роботите убийци

Добре, нека поговорим за роботите убийци. Това е концепция, която отдавна е прескочила от страниците на научната фантастика в реалността, в зависимост от това колко свободно определение използвате за „робот“. Военните безпилотни самолети изоставиха Първия закон на Азимов за роботиката – „Роботът не може да нарани човек или чрез бездействие да позволи на човек да пострада“ – преди десетилетия.

В последно време темата отново е актуална поради нарастващата перспектива за използване на роботи-убийци в националните правоприлагащи органи. Един от най-известните производители на роботи в епохата, Boston Dynamics, повдигна някои червени флагове в областта на обществения ред, когато през 2019 г. показа на нашата сцена кадри на своя робот Spot, използван като част от тренировките на щатската полиция на Масачузетс.

Роботите не бяха въоръжени, а вместо това бяха част от учение, предназначено да определи как те биха могли да помогнат за предпазване на служителите от опасност по време на заложническа или терористична ситуация. Но перспективата за внедряване на роботи в сценарии, при които животът на хората е изложен на непосредствен риск, беше достатъчна, за да предизвика запитване от страна на ACLU, който заяви пред TechCrunch:

Спешно се нуждаем от повече прозрачност от страна на правителствените агенции, които трябва да представят пред обществеността плановете си за изпитване и внедряване на нови технологии. Нуждаем се също така от регулации в целия щат, за да защитим гражданските свободи, гражданските права и расовата справедливост в ерата на изкуствения интелект.

Миналата година полицията в Ню Йорк прекрати сделката с Boston Dynamics след силен обществен отзвук, след като се появиха снимки на Spot, използван в отговор на нахлуване в дом в Бронкс.

От своя страна Boston Dynamics се противопоставя много ясно на въоръжаването на своите роботи. Миналия месец тя подписа отворено писмо, заедно с други водещи фирми Agility, ANYbotics, Clearpath Robotics и Open Robotics, в което осъди действието. В него се отбелязва:

Смятаме, че добавянето на оръжия към роботи, които се управляват дистанционно или автономно, широко достъпни са за обществеността и могат да се придвижват до недостъпни досега места, където живеят и работят хора, поражда нови рискове от вреди и сериозни етични проблеми. Оръжейните приложения на тези новосъздадени роботи също така ще накърнят общественото доверие в технологията по начин, който ще навреди на огромните ползи, които те ще донесат на обществото.

Смята се, че писмото е отчасти отговор на работата на Ghost Robotics с американската армия. Когато в Twitter се появиха снимки на едно от собствените ѝ роботизирани кучета с автономна пушка, фирмата от Филаделфия заяви пред TechCrunch, че заема агностична позиция по отношение на това как системите се използват от военните ѝ партньори:

Ние не произвеждаме тези оръжия. Ще промотираме и рекламираме ли някоя от тези оръжейни системи? Вероятно не. Трудно е да се отговори на този въпрос. Тъй като продаваме роботите на военните, не знаем какво правят те с тях. Няма да диктуваме на нашите правителствени клиенти как да използват роботите.

Ние поставяме границата за това къде да бъдат продавани. Продаваме само на правителството на САЩ и съюзници. Дори не продаваме роботите си на корпоративни клиенти на враждебни пазари. Получаваме много запитвания за нашите роботи в Русия и Китай. Не доставяме там, дори за нашите корпоративни клиенти.

В момента Boston Dynamics и Ghost Robotics са въвлечени в съдебно дело, свързано с няколко патента.

Тази седмица местният сайт за полицейски доклади Mission Local разкри нова загриженост около роботите убийци – този път в Сан Франциско. Сайтът отбелязва, че предложение за политика, което ще бъде разгледано от Надзорния съвет на града следващата седмица, включва формулировка за роботи-убийци. „Политиката за оборудване за правоприлагащите органи“ започва с опис на роботите, които в момента са притежание на полицейското управление на Сан Франциско.

Те са общо 17, като 12 от тях са функциониращи. Те са предназначени предимно за откриване и обезвреждане на бомби – което ще рече, че нито един от тях не е предназначен специално за убиване.

„Роботите, изброени в този раздел, не трябва да се използват извън обучение и симулации, задържане на престъпници, критични инциденти, извънредни обстоятелства, изпълнение на заповеди или по време на оценка на подозрителни устройства.“

се отбелязва в политиката. След това се добавя нещо, което е по-обезпокоително:

„Роботите ще се използват като опция за смъртоносна сила само когато рискът от загуба на живот на членове на обществото или служители е неизбежен и надделява над всяка друга опция за сила, с която разполага SFPD.“

На практика, според формулировката, роботите могат да бъдат използвани за убиване, за да спасят живота на служителите или на обществеността. Може би в този контекст това изглежда достатъчно безобидно. Най-малкото изглежда, че попада в правното определение за „оправдана“ смъртоносна сила. Но при това, което изглежда като дълбока промяна в политиката, възникват нови опасения.

Като начало, използването на робот за обезвреждане на бомби за убиване на заподозрян не е без прецедент. През юли 2016 г. полицаи от Далас направиха точно това, което се смяташе за първи път в историята на САЩ. „Не видяхме друга възможност, освен да използваме нашия робот за обезвреждане на бомби и да поставим устройство на удължителя му, за да се взриви там, където беше заподозреният“, заяви тогава началникът на полицията Дейвид Браун.

Второ, лесно е да се види как новият прецедент може да се използва в сценарий CYA, ако роботът се използва умишлено или случайно по този начин. Трето, и може би най-притеснително, може да си представим, че формулировката се прилага за придобиването на бъдеща роботизирана система, която не е предназначена единствено за откриване и обезвреждане на взривни вещества.

Mission Local добавя, че председателят на комисията по правилата на Съвета на надзорниците на Сан Франциско Аарон Пескин се е опитал да вмъкне по-благоприятния за Азимов текст:

„Роботите не трябва да се използват като средство за употреба на сила срещу когото и да било“.

SFPD очевидно е зачеркнала промяната на Пескин и я е актуализирала до сегашния й текст.

Подновяването на разговора за роботите-убийци в Калифорния се дължи отчасти на законопроекта на „Асамблея 481“. Законът, подписан от губернатора Гавин Нюсъм през септември миналата година, има за цел да направи действията на полицията по-прозрачни. Това включва опис на военното оборудване, използвано от правоприлагащите органи.

17-те робота, включени в документа от Сан Франциско, са част от по-дълъг списък, който включва също брониран автомобил Lenco BearCat, светкавици и 15 картечници.

Миналия месец полицията в Оукланд заяви, че няма да иска одобрение за въоръжени дистанционни роботи. В изявлението на отдела се казва:

Полицейското управление на Оукланд (OPD) не добавя въоръжени автомобили с дистанционно управление към отдела. OPD участва в дискусии на специална комисия с Комисията на полицията в Оукланд и членове на общността, за да проучи всички възможни приложения на автомобила. След допълнителни обсъждания с началника и изпълнителния екип обаче отделът реши, че вече не желае да проучва тази конкретна възможност.

Изявлението последва отзвук от обществеността.

Пастата за зъби вече е извадена от тубичката на първия закон на Азимов. Роботите-убийци са тук. Що се отнася до втория закон – „Роботът трябва да се подчинява на заповедите, дадени му от хората“ – той все още е предимно в рамките на нашите възможности. От обществото зависи да определи как ще се държат роботите в него.