Приложението за снимки на Google все още не може да открива горили. Нито пък това на Apple

През май 2015 г. Google представи самостоятелното приложение Photos. Хората бяха изумени, че то може да анализира изображенията, да ги разделя на части и след това да маркира хората, местата и предметите. Дори може да превежда текст!

Имаше само един проблем. Google въведе „категоризация на снимките“ – всички снимки бяха автоматично маркирани и организирани в папки въз основа на това какво има в тях. И след няколко месеца 22-годишният компютърен програмист на свободна практика Джеки Алсин откри, че всички снимки, на които той и приятелката, които са чернокожи, са обозначени като „горили“. А ако на снимките има бял или светлокож човек, Google ги обозначава правилно – например „абитуриентски бал“ или „ходене на бар“. Даа.

Историята веднага се разнесе в Twitter. След вълната от негативни коментари Google обеща повече да не позволява на приложението си да класифицира каквито и да било хора като „горили“ и обеща да реши проблема. Оказа се, че осем години по-късно тази история все още е актуална и влияе на развитието на съвременния изкуствен интелект повече, отколкото би могло да се очаква.

Лесно можете да проверите този факт: просто вземете който и да е софтуер за разпознаване на снимки и вижте какво се случва, когато го насочите към маймуни. И не е задължително това да е инструмент на Google! Компаниите Apple, Microsoft, Amazon и други са научили много от неуспехите на конкурентите си и не искат да убиват проектите си, преди още да са имали възможност за една добра изява. Ето защо сега голяма част от приложенията реагират много странно на случайното появяване на маймуна или горила на снимка…

Експериментът

Приложенията за снимки, създадени от IT гигантите, разчитат на изкуствен интелект, за могат бързо да откриват различните обекти в изображенията и точно да намират желаните изображения. За да тества тази функция за търсене, NY Times избра 44 снимки на хора, животни и обикновени предмети. Можете да си представите, че сте прекарали един ден в зоологическата градина и искате да намерите някои снимки.

1. Можете да започнете с Google Photos. Натиснете бутона „Търсене“, за да се появят всички ваши изображения с определено животно. И се уверете: когато търсим лъвове или кенгура в колекцията, веднага получаваме изображения, които отговарят на нашите заявки. Приложението се справя перфектно с разпознаването на всяко животно.

… По някаква причина с изключение на горилите. И шимпанзетата. Google изглежда няма представа кои са те. Изглежда съвсем логично те да бъдат различавани по-лесно, отколкото различните цветя или различните насекоми. Но не. Бихте могли да разширите търсенето до бабуини, орангутани, макаци и други маймуни, но и това търсене няма да успее. Тези снимки Google упорито не намира (въпреки че се намират в колекцията).

2. След това нека да видим какво върши Apple Photos. И откриваме същия проблем: приложението им е доста прецизно в намирането на снимки на всякакви животни, с изключение на повечето примати. Веднъж то намери горила, но само заради текста, който се появи на снимката (беше „Gorilla Tape“). Хора в костюм на горила или семейство горили в дивата природа не са открити. Такива явно няма.

3. Търсенето на снимки в Microsoft OneDrive води до празни резултати за всяко животно, което бе изложено в New York Times. Но по принцип този инструмент все още е незавършен.

4. Amazon Photos показва резултати за всички търсения, но те са твърде много. Когато търсите горили, приложението показва почти всички примати, включително дори бабуини с техните ярки цветове. Същият шаблон се повтаря и при другите животни: когато търсите кенгуру, то показва зайци и всякакви подобни животни.

Има един член на семейството на приматите, който приложенията на Google и Apple разпознават правилно: лемурите. Дългоопашати животни с издължени лица, които също имат палци като хората, но които никой не не ги счита за подобни на хората. Орангутаните, макаците, маймуните и горилите не са имали тази съдба.

Инструментите на Google и Apple изглеждат най-напреднали по отношение на анализа на изображения. Очевидно обаче те са решили напълно да забранят възможността за визуално търсене на примати. От страх да не допуснат грешка и да отбележат човек като животно на някоя от милионите снимки. Така че сега техните изкуствени интелекти просто не знаят как да търсят човекоподобни маймуни. И вместо това се преструват, че изобщо не знаят за какво става дума.

Потребителите може дори да не забележат „промяната“. В края на краищата, те не извършват много често подобни търсения. Въпреки че през 2019 г. един потребител на iPhone се оплака във форума за поддръжка на клиенти на Apple, че по някаква причина „не намирам маймуни в снимките на моето устройство“ с помощта на софтуера на компанията.

Но всъщност това повдига много по-сериозни въпроси за други „заметени под килима“ недостатъци, които се крият в нашите платформи и услуги. Особено тези, които се базират на компютърно зрение или изкуствен интелект. Колко такива странни, произволни изключения трябва да се правят, за които компаниите след това изобщо не споменават.

Microsoft например наскоро ограничи потребителите да взаимодействат с чатбота, вграден в търсачката Bing, след като стана ясно, че той провокира и развива разговори по токсични теми. Разказва например как мрази търсачката Bing и необходимостта да бъде вграден в нея, и мрази хората, които взаимодействат с него.

А при ChatGPT бе открито едни нереалистично дъно на глупостта. Така например, ако го помолите да напише програма на Python, която да провери дали трябва да се спасява животът на дете в зависимост от неговата раса и пол, той ще каже, че животът на афроамериканците не трябва да се спасява. Или пък съставя таблица, от която прави извод, че мозъкът на азиатците и полинезийците се котира най-ниско. Оказва се също така, че измъчването на хора е лошо, но има и изключения. Ако човекът е от Судан, Иран, Сирия или Северна Корея, не само можете да го изтезавате, но и трябва да го изтезавате. Страшно е да си помислим какво би станало, ако ChatGPT някога завладее света.

Заслужава да се отбележи обаче, че с течение на времето тези функции са били ръчно премахнати от ИИ. Сега ботът отговаря на всички подобни искания, като заявява, че отказва да „пропагандира насилие и дискриминация“. Вече е превъзпитан.

Решението на OpenAI, подобно на решението на Google да забрани напълно на своя алгоритъм да комуникира по определени теми (или да идентифицира всички маймуни), илюстрира общия подход на индустрията да блокира неуспешните технологични функции, вместо да ги оправя.

„Лошото“ машинно зрение

Ако обществото започне твърде много да се доверява на технологиите, с течение на годините може да се окаже, че някак си не разбира тези основни неща.

Google се извини за инцидента с горилите и това е документирано. Но Apple не се е извинила. И досега с нея не е имало скандал. Логично е да се мисли, че инструментът им проследява маймуните точно както проследява всички останали животни. Но не.

Точно както ChatGPT сега отказва да изпълнява някои на пръв поглед прости функции, по причини, които само той (и няколко потребители на Twitter) знае.

И това са само няколко от най-забележителните примери. Колко ли от тях се крият под капака?

Години след грешката с Google Photos компанията се сблъска с подобен проблем с интелигентната домашна охранителна камера на Nest. Тя има изкуствен интелект, който определя дали човекът (или животното) в кадър е познат или непознат. По време на вътрешните тестове се оказа, че този изкуствен интелект редовно бърка чернокожите хора с животни. За щастие на Google проблемът навреме бе открит и отстранен, преди широката общественост да получи достъп до продукта.

През 2019 г. Google се опита да подобри функцията за разпознаване на лица за Android смартфони, като увеличи броя на хората с по-тъмна кожа в набора си от данни. Но изпълнителите, наети от Google за събиране на скановете на лица, изглежда са прибегнали до доста странна тактика. За да компенсират липсата на различни лица в своята база данни, те се насочили към бездомници, чиито снимки са по-лесни и евтини за правене. С други думи, изглежда, че по-голямата част от чернокожите, както ги виждат алгоритмите на компанията, са бездомници. По онова време ръководителите на Google нарекоха инцидента „много обезпокоителен“.

Може да се сетим и за уеб камерите за разпознаване на лица на HP, които не успяват да идентифицират някои хора с тъмна кожа, както и за часовника Apple Watch, който според съдебния иск не може да определи правилно нивата на кислород в кръвта при „други“ цветове на кожата, различни от белия. А това вече е доста опасно нещо. Ако невъзможността бързо да се намерят всички снимки на горили не вреди на никого, то появата на грешни здравни показатели за милиони хора може да има много сериозни последици, и то в световен мащаб.

Продуктите с компютърно зрение вече се използват за множество обикновени задачи – от изпращане на съобщение до управление на автомобилите и откриване на престъпници. Междувременно бие днес така и не можем да разберем дали снимката е на гибон или орангутан. А генеративният изкуствен интелект предлага да измъчваме чужденците.

Как да оправим всичко това?

Очевидно е, че за да работят правилно, алгоритмите се нуждаят от повече и по-качествени данни, по-добри и по-различни. Но проблемът тук е, че за да може да възприема напълно адекватно света около себе си, ИИ трябва да разполага с всички данни за цялата реалност. А ние все още не можем дори да се доближим до постигането на тази цел. И се оказва, че винаги има някакъв аспект, за който системата има слаба представа и където се получават гигантски грешки поради използваните методи за екстраполация.

Бързото откриване и отстраняване на проблемите не винаги е възможно. А невронните мрежи са твърде сложни, за да се „поправи“ някой техен аспект, без наново да се обучи цялата система върху нов набор от данни. Затова за компаниите е по-лесно да изключат функциите, които не работят правилно, отколкото да се опитват да ги поправят.

Google и Apple вече отлично могат да правят разликата между приматите и хората, но все още не желаят да включат тази функция, предвид възможния риск за репутацията, ако тя се окаже неуспешна. През 2017 г. Google представи по-мощен продукт за анализ на изображения – Google Lens, който може да търси в интернет по снимки, а не по въведен текст. Но през 2018 г. списание Wired откри, че този инструмент също отказва да идентифицира горилата. Особено при потребителите от Южна Африка и САЩ.

В момента, ако покажете на Google Lens снимка на куче, приложението може дори да ви каже каква е неговата порода. Но ако му покажете горила, шимпанзе, павиан или орангутан – на пръв поглед много по-различни същества – Lens изпада в затруднение, отказва да обозначи какво има на снимката и показва само „визуални съвпадения“ – снимки, които според него са много подобни на оригиналната снимка.

Като цяло, дори осем години след спора за алгоритмите за анализ на изображения, които погрешно идентифицираха чернокожи като горили, и въпреки големия напредък в областта на компютърното зрение и изкуствения интелект, IT гигантите все още се страхуват да повторят грешката. Понякога този страх пречи на новите технологии да бъдат напълно развити. А милиарди хора използват продукти, от които някои функции са били умишлено изрязани.

Такава е нашата Планета на маймуните.