AI инструмент превърна полицай в жаба

Изкуственият интелект започна да се налага навсякъде. Човек би се зачудил даже по масовите и координирани действия на това, което може да се нарече насилствено налагане. Независимо, че технологията засега поне, не е това, което ни рекламират. Потребителите на Windows 11 знаят най-добре. И докато грешките при използването им в системата на Microsoft въобще да не са смешни, то има случаи в други области, където са.

Един от секторите в САЩ, в които първо започнаха да се използват AI системи бяха силовите структури. Така е и било за полицията в американския град Хибър сити, Юта. Една от областите, в които местните полицаи използват изкуствен интелект е произвеждането на редовни полицейски доклади. Те използват софтуер с името Draft One, разработен от Axon, компанията зад електрическите тейзъри. Софтуерът генерира доклади въз основа на звука, идващ от камерите, прикрепени към предната част на полицейските униформи. Технологията се базира на ChatGPT, разработеният от OpenAI чатбот.

В един от тези генерирани доклади наскоро било написано, че полицаят се бил превърнал… жабок, предава Fox 13. Оказало се, че по време на разговора на полицая със спрян за проверка шофьор, на заден фон бил пуснат филма на Disney “Принцесата и жабокът“. „Това беше момента, в който научихме, че трябва да редактираме AI генерираните доклади“, коментира за Fox сержант Рик Кийл, злощастният полицай, превърнат от Draft One в жабок. От полицията в Хибър сити допълват, че обмислят използването на друг AI софтуер със сходна цел. За сега ще използват и Draft One. Но използването на AI за подобни сериозни цели няма само забавна страна. Това посочват от фондация „Електронна граница“ в свой доклад наскоро.

След разследване на фондацията е установено, че в Draft One умишлено е интегрирана възможността за избягване на вътрешни проверки. Такива, които биха позволили на обществеността да държи отговорни силите на реда за грешки от тяхна страна. В самите доклади е трудно да се различи кои части са написани от софтуера и кои от полицая. „Аxon и клиентите им твърдят, че технологията ще направи революция в полицията. Но все още е рано да се каже как ще промени правосъдната система и кого по-точно облагодетелства технологията“, пишат от фондацията.

Самият Кийл споделя, че макар и да не е особено технически грамотен, той борави с лекота с Draft One. Технологията му спестява седмично по шест до осем часа в писане на доклади. Що се отнася до опасенията за ползите от използването на изкуствен интелект в полицейската работа, „Електронна граница“ не са единствените.

Полицейските доклади са важни документи, които могат да доведат до осъждането или оневиняването на арестувано лице например. И някои експерти считат, че може би е все още рано технологията да се използва тук. Възможно е например AI софтуерът да „халюцинира“ в критичен момент. Става дума за възможността на чатботовете да предоставят невярна, абсурдна или подвеждаща информация. Тези „грешки“ обичайно се дължат на ограничения на моделите или умишлено и пристрастно зададени параметри.

А професорът по право от Американския университет Андрю Фъргюсън коментира и друго в интервю за „Асошиейтед прес“ миналата година. „Притеснявам се, че автоматизацията и улеснението, което носи технологията ще направи полицаите по-немарливи в докладите им“. Други се опасяват, че софтуерът ще проявява пристрастия на база раса и пол. Това е нещо, което го е имало в американската полиция и преди възхода на изкуствения интелект. Един от основателите на Foundation for Liberating Minds в Оклахома Аурелиус Франсиско изразява друго притеснение. „Фактът, че технологията се използва от същата компания, доставяща тейзърите на полицията е достатъчно притеснителен“, смята Франсиско.