Microsoft предсказа биологични заплахи от типа „нулев ден“, благодарение на AI

С помощта на изкуствен интелект експертите от Microsoft успяха да открият уязвимости от типа „нулев ден“ в системите за биологична сигурност, които се използват за предотвратяване на неразрешеното използване на ДНК.

Такива системи блокират продажбата и покупката на генетични последователности, които могат да бъдат използвани за създаване на смъртоносни токсини и патогени.

Група изследователи под ръководството на старши научния сътрудник на Microsoft Ерик Хорвиц успя да заобиколи тази защита по начин, неизвестен досега на специалистите в областта на сигурността. Хорвиц и неговите сътрудници включиха алгоритми на генеративен AI, предназначени за получаване на нови форми на протеини — подобни програми вече помагат за откриването на нови лекарства. Проблемът е, че те могат да имат двойно предназначение, като генерират структури не само на полезни, но и на опасни молекули. От 2023 година в Microsoft започнаха да изучават потенциала на системите с изкуствен интелект с двойно предназначение, за да установят дали подобни системи могат да помогнат на биотерористите в производството на вредни протеини.

Експертите на компанията са се опитали да преодолеят защитата на софтуера за биологична безопасност. Когато произвеждат протеини, изследователите обикновено поръчват ДНК последователности от търговски доставчици, които след това могат да бъдат вмъкнати в клетката. Софтуерът сравнява постъпващите поръчки с известни токсини и патогени и в случай на близки съвпадения се задействат предупреждения. При разработване на схемата за атака Microsoft използва няколко модела за генериране на протеини, включително собствения си EvoDiff. Изследователите си поставят за цел да преработят токсините, така че да могат да преминат контрола на софтуера, но да запазят смъртоносните си свойства.

Експериментът е проведен изцяло в цифрова среда: в действителност не са създадени токсични протеини, за да се избегне подозрение, че компанията разработва биологични оръжия.

Microsoft също така заяви, че е предупредила американските власти и производителите на софтуер, преди да публикува изследването, въпреки че някои конструирани молекули от изкуствен интелект все още заобикалят тази защита. Integrated DNA Technologies, основен производител на ДНК материали заяви, че затварянето на тези уязвимости не е еднократно усилие, а „начало на по-нататъшни тестове“ и сравни ситуацията с „надпревара във въоръжаването“. За да гарантират, че с резултатите от изследването няма да бъде злоупотребено, изследователите от Microsoft не разкриват подробности за работата си и не казват кои протеини са поискали от изкуствения интелект да преработи.

Съществува обаче мнение, че подобни действия няма да помогнат за решаването на цялостния проблем, а най-добрата защита срещу злонамерени действия би била да се вградят защитни механизми в самия AI – директно или чрез контролиране на информацията, която той предоставя. Още по-добра защита би била да се контролира самият синтез на гени на ниво производител, тъй като AI технологиите стават все по-разпространени и по-трудни за контролиране. „Не можете да върнете този джин обратно в бутилката. Ако разполагате с ресурсите да ни измамите, за да се опитаме да направим ДНК последователност, вероятно можете да обучите и голям езиков модел“, признават учените.