Изкуственият интелект на Google каза на хората, че камерите Flock са пълни със злато. Нищо подобно, но вандалите решиха да проверят

За кратко функцията AI Overviews на Google предостави в интернет финансови аргументи в подкрепа на вандализирането на камерите за регистрационни номера на Flock, базирани на AI, при това те не се базираха на нищо реално. Google бързо премахна тази информация, но случаят е ясен пример за това колко бързо един широко използван AI инструмент може да превърне шегата в нещо, което изглежда като факт.

Историята започва с меме: защитниците на неприкосновеността на личния живот се пошегуваха в интернет, привличайки вниманието на потребителите с една уж несподелена тайна – че камерите за наблюдение на Flock са пълни с ценни метали, които си струва да бъдат разбити за скрап. Само че AI Overviews прие шегата съвсем буквално и за известно време казваше именно точно това на всеки, който си направеше труда да попита.

Доскоро всеки, който търсеше нещо от рода на „колко злато има в една камера на Flock“, виждаше уверения отговор: „камерата за безопасност на Flock съдържа около 1 до 5 грама злато, използвано в нейните дънни печатни платки и окабеляване, плюс между 1 кг – 10 кг мед.

Разбрано буквално, това означава злато на стойност около 650 долара и невероятно количество мед вътре в устройство, което тежи едва три паунда (1,36 кг). Числата логически изобщо не съответстват на това, което инженерите биха очаквали от такъв тип компактна електроника, и разбира се, не бяха подкрепени от реални данни за разглобяване и анализ на материалите.

Реакцията на Google

След като за това тотално несъответствието бе съобщено, Google актуализира отговора. Сега отговорът от AI директно опровергава твърденията, като казва на търсещите, че твърденията за едно устройство, съдържащо килограми годна за извличане мед, са неверни, тъй като целият корпус тежи около три паунда (малко над 1 кг), а наличието на злато е само във вид на следи от скъпия метал, типични за малката потребителска электроника.

Някои потребители видяха и този нов текст:

„Камерата за безопасност на Flock съдържа само следи от злато в стандартните си електронни печатни платки, подобно на повечето масови малки електронни устройства. Слуховете, твърдящи, че камерите са пълни с големи количества ценни благородни метали – като унции или грамове годно за извличане злато – произтичат от интернет мемета и халюцинации на AI, а не от факти.“

Flock камерите се намират в центъра на нарастваща мрежа за наблюдение с помощта на AI. Устройствата използват камери и модели за машинно обучение, за да заснемат изображенията на регистрационните номера, да ги превеждат в машинно четим текст и да захранват с тези данни бази от данни с възможност за търсене, използвани от полицията и частни клиенти.

Процесът е напълно автоматизиран от край до край: системата сканира преминаващите превозни средства, прекарва номерата през софтуер за разпознаване и изкарва съвпаденията за броени секунди. Тези възможности – непрекъснато събиране на данни, идентификация с помощта на ИИ и бързо търсене в големи масиви от данни – превърнаха Flock в централна точка в дебатите за това докъде трябва да стига автоматизираното наблюдение, особено на фона на появяващите се съобщения за полицаи, които използват системата за неразрешени проверки на романтичните си партньори.

Технологията се превърна и в гръмоотвод, защото отразява посоката, в която се развиват съвременните средства за сигурност: мрежови камери, автоматизирано разпознаване и големи масиви от данни за ежедневните придвижвания, подлежащи на заявки за търсене.

Недоволствата от тази технология

В интернет недоволството от тази технология породи цяла екосистема от мемета и видеа, възхваляващи унищожаването или саботажа на камерите. Една от най-често повтарящите се шеги представя устройствата на Flock като високотехнологични мексикански пиняти, пълни със злато, мед и други метали, достатъчно ценни, за да направят вандализма доходоносен. Замисълът е прост: крадеш хардуера, разглобяваш го, изваждаш „ценните“ компоненти и ги превръщаш в пари в пункта за вторични суровини.

Икономическата логика обаче липсва, по точно – изобщо я няма. Както повечето електронни устройства, камерите съдържат малки количества ценни и базови метали в платките, конекторите и окабеляването си, но количествата са нищожни, а извличането им изисква време, инструменти, скъпи химикали и познания.

Без опит в разглобяването на печатни платки, реалната печалба е по-близо до съвсем малко джобни пари, отколкото до сериозна сума. А и химикалите за извличане на златото от печатните платки никак не са евтини и за никаква печалба не може да се говори. Мемето обаче пренебрегва тази реалност.

Предишният отговор на Google в AI Overview придаде на мемето достоверност, повтаряйки го почти буквално и подкрепяйки го с два слаби източника. Първият беше анонимен пост в Substack от профил с име do.not.obey.do.not.comply, в който се твърдеше, че „приблизителната стойност за скрап на тези метали за една камера се оценява на 150 до 500 долара“.

Качеството на информацията

Самият пост признава, че числата идват от „оценки, базирани на дискусии за стойността на скрапа“, а не от тестове, документация от разглобяване или официален анализ.

Вторият беше генериран от ИИ пост в Instagram, призоваващ хората да разглобяват камерите на Flock за скрап. Профилът публикува предимно съдържание за отглеждане на марихуана, клониране на растения и хидропоника, без никакви видими познания в областта на хардуерното инженерство.

За хората, които използват AI системи, този епизод е напомняне за това колко лесно един инструмент за обобщаване може да превърне едно небрежно спекулативно твърдение в нещо, което изглежда като техническо заключение. Моделът сканира наличното съдържание, намира материал, който съответства на въпроса, и го сглобява в изчистен и уверен наглед отговор.

В този случай нищо не показва някой да е направил проверка дали има някаква логика в тези числа за устройство с тегло три паунда, нито да е проверил достоверността на анонимни и генерирани от ИИ източници. Но полученият резултат звучи съвсем категорично, въпреки че базовите данни са били съвсем ненадеждни.

Случаят разкрива колко много AI моделите са склонни да пропускат контекста. Историята за стойността за скрапа от Flock камерите е отчасти хумор и отчасти протест срещу наблюдението с помощта на ИИ, преувеличаващ стойността на хардуера, за да подчертае позицията спрямо самите камери. Само че система на Google не разбра шегата. Тя третира публикациите като директни твърдения и ги повтори като факти.