Meta е изложена на сериозна заплаха за сигурността поради действията на изкуствения интелект

ИИ-агентът на Meta случайно е причинил сериозен пробив в сигурността, като е получил достъп до чувствителни потребителски данни и ги е изпратил на служители, които не са били оторизирани за достъп до тази информация.

Говорителят на Meta Трейси Клейтън е заявил пред The ​​Verge, че по време на инцидента „не са възникнали нарушения на потребителските данни“.

Инженер на Meta използва вътрешния AI-агент, който Клейтън описва като „по същество подобен на OpenClaw, но работещ в защитена среда за разработка“, за да анализира технически въпрос, публикуван от друг служител във вътрешен форум на компанията. След анализа на въпроса обаче, AI агентът публикувал отговор без предварително одобрение. Отговорът е трябвало да бъде показан само на служителя, който го е поискал, а не да е публичен.

След това един от служителите последвал съвета на изкуствения интелект, който „предоставил неточна информация“, което довело до инцидент SEV1 – вторият най-сериозен инцидент със сигурността в Meta. В резултат на това служителите получили достъп до чувствителни данни, които не са били упълномощени да преглеждат.

Според Клейтън, участващият ИИ агент не е извършил никакви технически действия, освен публикуването на неточни технически препоръки —- нещо, което човек би могъл да направи. Човек обаче би могъл да проведе допълнителни тестове и да вземе по-информирано решение, преди да сподели информацията.

„Служителят, взаимодействащ със системата, е бил напълно наясно, че комуникира с автоматизиран бот. Това се доказва и от предупреждението в долната част на страницата и от собствения отговор на служителя в тази тема“ —- коментира Клейтън в интервюто за The Verge.

Достъпът до данните остава отворен около два часа, но няма признаци на злоупотреба или изтичане на информация.

Инцидентът подчертава предизвикателствата пред контролирането на автономните AI-системи, внедрени от големите технологични компании, които могат да представляват заплаха за поверителността на потребителите и сигурността на данните.

Meta, която е един от световните лидери в социалните мрежи и технологичните иновации, активно разработва и внедрява различни технологии с изкуствен интелект в своите продукти. Въпреки предимствата, използването на изкуствен интелект изисква внимателен езиков контрол и надзор.

Този случай подчертава важността на засилването на мерките за сигурност при работа с изкуствен интелект и необходимостта от разработване на по-добри механизми за управление на такива системи.

В близко бъдеще Meta вероятно ще актуализира своите протоколи за сигурност, за да предотврати подобни инциденти и да гарантира поверителността на потребителите.