Алгоритмите на Facebook разпознаха снимка на зеленчуци като порнография

Автоматизираните алгоритми за борба с порнографията на Facebook най-накрая спряха лесно впечатляващите се деца и юноши да виждат невъобразими перверзии на техните начални страници в социалната мрежа: купчина лук (Allium cepa), която бе маркирана като потенциално порнографско съдържание.

Всичко започва от компанията Gaze Seed Company, която се е опитала да направи реклама на продукцията си във Facebook, използвайки снимка на купчина лук в кошница, за да пусне на пазара своите семена, съобщават от CBC, но снимката е била блокирана от алгоритъма на Facebook. Официалната причина? Алгоритмите на Facebook са решили, че изображението съдържа „очевидно сексуални или еротични детайли“. Това, разбира се, е просто една забавна грешка, която обаче повдига редица въпроси относно влиянието, което се дава на тези алгоритми, а на по-фундаментално ниво дори илюстрира, че дори най-модерните Al алгоритми и системи все още не са готови да оправдаят нашите надежди и очаквания, които залагаме на тях.

За съжаление компанията, опитала се направи реклама в социалната мрежа, получава единствено автоматично известие, че тяхната снимка е спряна от социалната мрежа, тъй като съдържа „сексуални и/или еротични елементи“, но не изяснява какъв точно е проблемът. От маркетинговия отдел на фирмата казват, че навярно причината за това блокиране е съчетанието между снимката и описанието, което са заложили, което гласи „изключително сладък, мек и едър“ и според тях именно това е накарало алгоритмите на Facebook да разпознаят някаква форма на сексуализация, макар и категорично такава да няма.