Изкуственият интелект на Microsoft погрешно е получил достъп до поверителни имейли на потребители

Microsoft потвърди, че бъг в Microsoft 365 Copilot е позволил на нейния асистент с изкуствен интелект да създава резюмета на поверителни имейли на потребителите без тяхното разрешение от края на януари, пише Bleeping Computer.

Причината е неуточнен бъг в кода, който е позволявал на Copilot да има достъп до елементите в папките „Изпратени“ и „Чернови“, дори ако те са имали етикети за поверителност. Microsoft започна да разпространява поправка в началото на този месец и продължава да следи за нейната ефективност, като дори се свърза с някои от засегнатите потребители, за да се увери, че проблемът е разрешен.

Copilot Chat е чатбот, базиран на изкуствен интелект, който позволява на потребителите на Microsoft 365 да взаимодействат с агенти с изкуствен интелект в продукти като Word, Excel, PowerPoint, Outlook и OneNote. Microsoft започна да го разпространява сред платените бизнес клиенти през септември миналата година. Компанията потвърди, че имейлите с поверителни етикети не са били обработвани правилно, което потенциално може да доведе до риск от разкриване на чувствителна информация.

Компанията не предостави точни срокове за пълно отстраняване на проблема, нито броя на засегнатите потребители или организации, като отбеляза, че обхватът на въздействието може да се промени в хода на разследването.

Инцидентът е класифициран като „advisory“ – обозначение, което обикновено се прилага за проблеми с услуги с ограничен обхват или въздействие. Инцидентът също така привлече вниманието към факта, че дори въведените политики за сигурност понякога не успяват да защитят информацията от грешки в системите, задвижвани от изкуствен интелект, като подчерта значението на контрола и наблюдението на новите функции в корпоративните услуги.