В САЩ започнаха да се появяват частни системи за социален рейтинг

19
1443

Събирането на потребителските данни за по-ефективно показване на реклами е само началото на нова антиутопия. На следващия етап големите компании ще започнат да прекратяват да обслужват неизгодните за тях потребители и техният живот ще стане истински пример на антиутопия.

Системата за социален рейтинг вече е неразривна част от китайското общество. За проявена активност към комунистическата партия китайците получават преференции, а за неплащане на вноските по кредитите и дори за пушене във влака се налагат глоби и санкции. Всичко това се записва в системата за социален рейтинг и при наличието на твърде малко точки в рамките на тази система на някои хора се отказва закупуването на билети за бърз транспорт, те не могат да си намерят по-почтена работа и т.н. Очакванията са следващата година системата за социален рейтинг в Китай да обхване по-голямата част от страната.

Но подобни проекти започнаха да се появяват и на Запад. Fast Company сподели, че с тези системи за социален рейтинг се занимават частните компании, а не държавата. В САЩ това са скоринг системите, които са все по-многобройни и съвсем непрозрачни.

Главният етичен проблем при този подход е появата на наказателна система, която прескача държавната и игнорира презумпцията „невинен до доказване на противното“.

Скорингът дава възможност на бизнеса да печели още повече, без да се съобразява с етичните правила, като дори скоринг системите се представят като изгодни за лоялните клиенти.

Твърде показателен пример за този процес е пресмятането на застраховките. Властите на щата Ню Йорк тази пролет разрешиха в тези пресмятания да се използват данните от социалните мрежи. Решили сте с ръка да нахраните мечката гризли в Йелоустоун: получавате глоба. А ако вашият живот в социалните мрежи е скучен и безопасен – получавате отстъпка. Застрахователните компании са длъжни да обяснят по какъв начин тези данни са повлияли на оценката на риска. Забранени са промените в зависимост от расовата принадлежност на клиента.

 

Застраховката Живот не се прави често. Но какво ще кажете за вечеря в ресторанта? Това е вторият вариант на скрития скоринг – системата за мониторинг на веригата барове PatronScan. Тези терминали вече се продават в четири държави – САЩ, Канада, Великобритания и Австралия. В началото те се използваха за разпознаване на фалшивите ID карти, които се опитваха да представят пълнолетните. Сега в тази система бе добавена възможност за разпознаване на шумните грубияни. Тоест, сега не е достатъчно да сте над 21 години – трябва и да умеете да пиете културно. А ако не се харесате на някой барман, ще ви бъде отказан достъпа във всички заведения, в които се използват тези скенери.

По сериозно може да бъде блокирането на услугите на Uber или в системата за отдаване на стаи и жилища под наем Airbnb. Правилата на Airbnb предвиждат възможност за доживотна забрана за използването на техните услуги, като компанията дори не е длъжна да обяснява на клиента каква е причината за бана. А в Uber не само пътниците оценяват водачите, а и водачите оценяват пътниците. Компанията твърди, че ако вашият рейтинг е много по-нисък от средния, то може да ви бъде отказано обслужването.

А ако все пак може да бъде извикано такси по телефона, какво ще е ако останете без връзка? Месинджърът WhatsApp има правото да блокира акаунтите, които се намират в спам списъците, съставяни от другите потребители. В държави, като например Индия, където WhatsApp е основната платформа за връзка и за четене на новини, това е все едно да останеш без телефон.

Проблемът е, че тези системи се въвеждат от частните компании. Пострадалият няма право на адвокат, на съд и доста често няма къде да се оплаче от случилото се, понеже това решение най-вероятно е взето от алгоритъм с елементи на изкуствен интелект.

И още, за разлика от лошия съдия, който в САЩ може да бъде преизбран, а може и да не бъде, обществото няма никаква възможност да свали ръководството на компанията или да уволни взелият неправилно решение ИИ.

Тревожен е фактът, че ако тази тенденция продължи, в съвсем близко бъдеще все повече нарушения ще бъдат наказвани не от съда, а от корпорациите. Всичко това указва на сериозен дрейф от демократичните ценности към света на всесилните корпорации, който все повече започва да прилича на антиутопия.

Но все пак, при сблъсъка на тези системи за скоринг с частната машина, напълно е възможно те да бъдат изключени. Нещо подобно се случи в Китай, където въведоха ИИ система за борба с корупцията, която се оказа плашещо ефективна.

Това бе китайската ИИ система Zero Trust, която моментално започна да открива големи несъответствия в приходите и разходите на чиновниците.

Zero Trust съпоставя редица бази данни, включваща заплатите, както и разходите на китайските чиновници, като последният вариант на тази система имаше достъп до 150 бази данни от федерално и регионално ниво.

Интересно е, че Zero Trust при необходимост може да анализира сателитни снимки, за разбере, дали наистина шосето до дадено село е наистина построено или парите са отишли в джобовете на чиновниците.

Но натискът на китайската общественост бе толкова голям, че Zero Trust бе изключена.

0 0 глас
Оценете статията
Абонирай се
Извести ме за
guest
19 Коментара
стари
нови оценка
Отзиви
Всички коментари