Оказа се, че властите в Обединеното кралство използват ИИ за много неща – ето какви и как се справя

Правителството на Обединеното кралство използва алгоритми за дълбоко обучение под всеобхватния чадър на ИИ. За да помогне на различните си отдели да вземат решения при искове за социални помощи, установяване на случаи на измами и дори сканиране на паспорти. Всичко това вероятно не е никаква изненада, но както показва едно разследване, това отваря огромна кутия на Пандора.

Ако се чудите за какъв ИИ се говори тук, тогава помислете за увеличаване на мащаба (ъпскейлинг)

Системите, използвани от правителството, не се различават много от тези, разработени от Nvidia за нейната технология DLSS Super Resolution. Моделът на данните за това се обучава чрез захранване с милиони кадри с много висока разделителна способност от стотици игри. Така че, когато алгоритъмът след това се захранва с изображение с ниска разделителна способност, той може да разбере как е най-вероятно ще изглежда то при по-висока резолюция.

DLSS ъпскейлинг използва доста стандартна рутина, за да направи скок от 1080p към 4K

След това изпълнява ИИ алгоритъма, за да коригира всички грешки в изображението. Но като всички подобни системи, качеството на крайния резултат зависи в голяма степен от това какво въвеждате в алгоритъма и върху какво е обучен наборът от данни.

Разследване на Guardian относно използването на ИИ от правителството на Обединеното кралство подчертава какво се случва, когато има проблеми и с двата аспекта. Например публикацията съобщава, че Министерството на вътрешните работи е използвало ИИ, за да разчита паспорти на летищата.

С цел да помогне за откриването на потенциално фалшиви бракове за по-нататъшно разследване.

The Guardian казва, че вътрешна оценка на министерството показва, че алгоритъмът подчертава непропорционален брой хора от Албания, Гърция, Румъния и България. Ако наборът от данни е бил обучен върху данни, които сами по себе си вече подчертават определени черти в проучването, тогава ИИ ще бъде също толкова предубеден в своите изчисления.

Правителството на Обединеното кралство естествено защитава използването на ИИ и в случай на искове за социални помощи.

Но се казва, че окончателното решение се взема от човек. Дали този човек основава решението си на изхода на алгоритъма или се връща и проверява всичко отново? Ако е последното, използването на ИИ е било пълна загуба на време и пари.

Но ако е първото и изкуственият интелект е обучен на информация, която вече е пристрастна, тогава окончателното решение, взето от реално живо човешко същество, също ще бъде пристрастно. Дори привидно невинни сценарии на употреба са засегнати от това, като например идентифициране кои хора са изложени на по-голям риск, ако настъпи пандемия. Тъй като могат да бъдат избрани грешните хора или най-нуждаещите се да бъдат напълно пропуснати.

Ясно е, че правителствата няма да обърнат гръб на тези технологии

Това, което е необходимо, е по-голяма прозрачност зад използваните алгоритми, заедно с разрешаване на достъп на експерти до кода и набора от данни, за да се гарантира, че системите се използват честно и по подходящ начин.

В Обединеното кралство такъв ход вече е извършен

Обаче когато сте просто „насърчени да попълните доклад за алгоритмична прозрачност за всеки алгоритмичен инструмент“, няма много стимул или правен натиск за която и да е организация да го направи.

Това може да се промени с времето, но дотогава трябва да има обучение за всички държавни служители.

Не за това как да използват ИИ, а за това да разбират неговите ограничения. За да могат да поставят под въпрос извод, който може да е проблемен. Всички сме предубедени, по един или друг начин, но трябва да помним, че е същото и с изкуствения интелект.