Microsoft иска да намали риска да станем жертва на Al

1
341

Всеки, който си притеснява от заплахата от достигането на изкуствения интелект във фаза, в която вече не е под контрола на човечеството, а се превърне в негов враг, може да си отдъхне в известна степен след обявяването на новите защитни мерки, които консорциум от софтуерните лидери в Al областта предвижда.

Корпорацията с нестопанска цел MITER се обедини с 12 водещи технологични компании, включително Microsoft, IBM, Nvidia и други, за да даде началото на своя проект Adversarial ML Threat Matrix.

Групата казва, че системата ще представлява отворена рамка, създадена, за да помогне на анализаторите на сигурността да разпознават, предупреждават, реагират и адресират заплахи, насочени към системите за машинно обучение (ML).

Microsoft казва, че присъединяването ѝ в групата е мотивирано от продължаващия ръст на броя на атаките срещу търговски системи с машинно обучение по целия свят. MITER се е свързвала и е проучила информираността на 28 големи технологични бизнес компании, като установява, че почти всички от тях не са наясно със заплахата, която може да представлява надпреварата на софтуерните гиганти в машинното обучение, като 25 от общо 28 казват, че нямат подходящите инструменти за защита на своите ML системи.

За да помогне за повишаването на информираността на тези компании, Adversarial ML Threat Matrix се стреми да помогне на екипите им по сигурност да разпознават и да са по-защитени от атаки срещу системи с машинно обучение.

ML матрица

Матрицата съдържа информация за редица предишни уязвимости и поведение на атакуващи, забелязани от Microsoft и MITER през годините, както и цял набор от експертни познания на Microsoft в сектора на сигурността.

„Открихме също така, че когато атакуват система с машинно обучение, нападателите използват комбинация от традиционни техники като фишинг и съвсем нови и противоречиви ML техники“, заявиха от Microsoft в публикация в блога си.

Хранилището на Adversarial ML Threat Matrix GitHub е отворено за фирми, които се интересуват да научат повече.

„Що се отнася до сигурността на машинното обучение, бариерите между публичните и частните начинания и отговорности се размиват, предизвикателствата в публичния сектор като националната сигурност ще изискват сътрудничество на частни участници и не малко публични инвестиции“, отбеляза Микел Родригес, директор по машинното обучение на MITER.

„И така, за да помогнем за справянето с тези предизвикателства, ние от MITER се ангажираме да работим с организации като Microsoft и по-широката общност, за да идентифицираме критични уязвимости по веригата на доставки на машинното обучение. Тази рамка е първата стъпка за подпомагане на обединяването на общностите да даде възможност на организациите да мислят за възникващите предизвикателства при осигуряване на системите за машинно обучение.“

0 0 глас
Оценете статията
Абонирай се
Извести ме за
guest
1 Коментар
стари
нови оценка
Отзиви
Всички коментари