Великобритания въвежда система с ИИ за пълен контрол върху банковите сметки на гражданите

Правозащитниците са обезпокоени от плановете на правителството на Обединеното кралство да започне масово наблюдение на банковите сметки с цел борба с измамите със социални помощи. Планира се да се използват автоматизация и изкуствен интелект за откриване на измамни транзакции и грешки, които струват на бюджета 10 милиарда паунда годишно. Според експертите подобни мерки биха могли сериозно да нарушат неприкосновеността на личния живот на гражданите.

В писмо до министъра на труда и пенсиите Лиз Кендъл представители на организации за защита на правата на хората с увреждания, пенсионерите и неприкосновеността на личния живот заявиха, че ако банките сканират сметките на гражданите, за да откриват подозрителни действия, това би било „навлизане в личния живот“ и би могло да доведе до санкциониране на уязвимите хора.

Въпреки, че подробностите на законопроекта (предложен от Консервативната партия) все още не са известни, Министерството на труда и пенсиите заяви, че правителството няма да има пряк достъп до сметките и не възнамерява да използва изкуствен интелект за анализ на данните. Ако има съмнения за измама, служителите на министерството ще трябва да проведат разследване. Смята се, че споделянето на данни с банките ще спести около 1,6 милиарда паунда за 5 години.

Преди това представители на Консервативната партия вече бяха предложили подобен законопроект, но той не успя да мине през парламента преди изборите през юли. Тогава инициативата беше подкрепена от технологичната индустрия, тъй като законът би могъл да повиши доверието в инструментите с изкуствен интелект. Въпреки това аспектите, свързани с неприкосновеността на личните данни и автоматизираните решения предизвикаха много спорове.

Новият законопроект би могъл да задължи банките и други дружества да проверяват банковите сметки на всички граждани, за да открият нередности (включително надплатени суми) при получателите на социални помощи. Подобни мерки обаче могат да открият само около 3% от всички загуби, дължащи се на грешки и измами.

Подписалите писмото отбелязват, че подобен подход към масовото наблюдение е „непропорционален“. Защитниците на правата на човека също изразяват опасения, че системата за алгоритмично наблюдение може да доведе до грешки и да се отрази неблагоприятно на най-уязвимите граждани.

Министерството на труда и пенсиите, коментирайки ситуацията заяви, че твърденията на организациите са неверни. Министерството заяви, че новите правомощия ще се използват внимателно и пропорционално и под строг контрол. Информацията, предоставяна от банките няма да бъде свързвана с алгоритмите на министерството и всички сигнали за потенциални измами ще бъдат изцяло проверявани от служител.

Опасенията идват на фона на все по-широкото използване на ИИ в държавните агенции, като около 70% от министерствата вече използват или планират да използват ИИ. Такива алгоритми обаче не са съвършени – наскоро стана ясно, че програмата на министерството погрешно е сигнализирала за над 200 000 случая на съмнения за измама.