Новият AI продукт на Microsoft изглежда като антиутопичен кошмар

На годишната конференция Build, която се проведе от 21 до 23 май в Сиатъл, бяха направени доста анонси на бъдещи технологии, много от които свързани с интегрирането на изкуствения интелект в устройствата от ново поколение. Но има едно твърдение, което вече успя да стане противоречиво — и дори може да причини правни проблеми на компанията.

Базираната на изкуствен интелект функция “Припомням си“, която Microsoft рекламира като „проучваща хронология на миналото на вашия компютър“, е изненада както за експертите, така и за обикновените потребители от нейното стартиране — и това е разбираемо, защото целият ѝ трик е буквално да прави екранни снимки на активния екран на всеки няколко секунди и ги запазва локално. След това програмата може да търси в тези екранни снимки, както и във всички минали действия на потребителя – файлове, снимки, имейли, история на сърфиране и т.н.

Това е, както съветникът по изкуствен интелект и поверителността д-р Крис Сришак каза пред BBC, потенциален „кошмар за поверителността“.

„Самият факт, че ще се правят скрийншоти, докато използвате устройството, може да има плашещ ефект върху хората“ — каза Сришак. „Хората може да избягват да посещават определени сайтове и да имат достъп до документи, особено чувствителни, когато Microsoft прави екранни снимки на всеки няколко секунди.“

Междувременно Microsoft подчертава, че има някои предпазни мерки: поверителността е „вградена в дизайна на Recall от самото начало“ и потребителите могат да ограничат времето, през което се правят скрийншоти, казва компанията.

„Моментните снимки от Recall се съхраняват на вашия локален твърд диск и са защитени чрез криптиране на данните на вашето устройство“ — твърдят от компанията. „Екранните снимки на Recall са свързани само с конкретен потребителски профил и Recall не ги споделя с други потребители, не ги прави достъпни за разглеждане от Microsoft или да ги използва за таргетиране на реклами. Скрийншотите на Recall не са достъпни за други потребители и не се използват от други приложения или услуги„.

Звучи успокояващо, но експертите по сигурността не са убедени. Самият Microsoft отбелязва, че чувствителна информация като пароли и номера на финансови сметки няма да бъде скрита в екранните снимки; следователно, компютър, на който настройките за поверителност на Recall са конфигурирани неправилно или който е бил насочен към зловреден софтуер, или просто се е сринал, може да представлява заплаха за сигурността в огромен мащаб.

„За престъпниците това е еднократна атака“ — каза Мухамад Яхя Пател, водещ инженер по сигурността в Check Point, пред TechRadar.

„[Това е] като грабни и тръгни, но с Recall те ще имат всичко на едно място [вашата база данни от скрийншоти],” казва Пател. „Представете си златната мина от информация, която ще се съхранява на компютър, и какво могат да направят нападателите с нея.“

Всъщност толкова обезпокоителни са проблемите около Microsoft, че тя вече се оказа в правни проблеми — поне в Обединеното кралство, където Службата на комисаря по информацията (ICO), националният орган за защита на данните, който се отчита директно пред парламента, обяви, че са „отправени запитвания към Microsoft, за да се разбере какви предпазни мерки има за защита на поверителността на потребителите.“

„Очакваме организациите да бъдат прозрачни с потребителите относно това, как се използват техните данни и как се обработват личните им данни само до степента, необходима за постигане на конкретна цел“, се казва в изявление, публикувано в сряда. „Промишлеността трябва да обмисли проблемите със защитата на данните от самото начало и внимателно да оцени и смекчи рисковете за правата и свободите на хората, преди да пусне продукти на пазара.“