OpenAI представи нови ИИ-модели с подобрена способност да разсъждават въз основа на изображения, а потребителите бързо намериха неочаквано приложение за тях – откриване на геолокация въз основа на случайни снимки.
В социалните мрежи едно своеобразно предизвикателство набира скорост: хората качват снимки на фасади на сгради, менюта на ресторанти, улични сцени и дори селфита, а ИИ-моделът o3 отгатва къде са направени – понякога по най-малките детайли. В същото време, както подчертават изследователите, ChatGPT не използва EXIF метаданни (т.е. скритата информация, която обикновено се съхранява във файловете със снимки и може директно да посочи местоположението).
ПОВЕЧЕ ПО ТЕМАТА ЗА МЕТАДННИТЕ:
Интернет помни всичко за вас – метаданните не забравят нищо
Новият ИИ-модел на OpenAI е сравнен с играта GeoGuessr, в която играчите трябва да познаят къде се намират въз основа на кадри от Google Street View. Сега същата задача се решава от изкуствен интелект и то често с удивителна точност. Например, един потребител показа как ChatGPT идентифицира къде се намира библиотека по снимка за 20 секунди, а друг показа как ИИ-моделът разпознава бар по лилавата глава на носорог на стената въпреки слабата светлина.
Не винаги обаче o3 работи перфектно. Понякога ИИ-моделът дава напълно погрешни отговори или „замръзва“, когато се опитва да анализира изображение, което е твърде неинформативно.
Въпреки това, дори и с недостатъците, възможностите са обезпокоителни – все пак вече е много по-лесно да се определи местоположението на човек по снимка, а това може да се използва във ваша вреда.
Тревожно е също така, че в нито един от официалните документи за сигурност на новите ИИ-модели на OpenAI не се разглеждат пряко потенциалните рискове от подобна употреба. Възможността за „обратно търсене на местоположение“ въз основа на снимка не е ограничена – изкуственият интелект все още не отказва такива заявки по подразбиране. Това отваря вратата за злоупотреби: нападателите могат например да запазят сторита от Instagram и да се опитат да разберат къде е бил даден човек.
OpenAI, коментирайки ситуацията часове след първите публикации заяви, че o3 и o4-mini имат възможности за визуален анализ и биха могли да бъдат полезни в приложения за достъпност, изследвания и спешни услуги. Компанията също така твърди, че е въвела ограничения, които забраняват разпознаването на лица и защитата на лична информация. Въпреки това, ако се съди по примерите, дадени от потребителите, досега ограниченията са били лесно заобикаляни – и това повдига въпроси относно реалната ефективност на вградените механизми за защита.
Развитието на подобни възможности в ИИ-моделите поставя на дневен ред нови предизвикателства в областта на цифровата неприкосновеност на личния живот.
Възможностите на алгоритмите, които не толкова отдавна изглеждаха като научна фантастика, вече са в ръцете на широка аудитория. Въпросът сега е колко бързо разработчиците и регулаторните органи ще успеят да реагират на възникващите рискове, и дали мерките ще бъдат достатъчно строги, за да спрат потенциалните нарушения на неприкосновеността на личния живот.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
