Google, NVIDIA, Intel, OpanAI, Microsoft и други ИТ гиганти създават „Коалиция за безопасен ИИ“

Google, OpenAI, Microsoft, Amazon, NVIDIA, Intel и други големи играчи на пазара на изкуствен интелект обявиха създаването на „Коалиция за безопасен изкуствен интелект“ (CoSAI).

Инициативата има за цел да се справи с „фрагментирания пейзаж на сигурността на изкуствения интелект“, като осигури достъп до методологии, платформи и инструменти с отворен код.

Не е известно точно какво въздействие иска да окаже CoSAI върху индустрията на изкуствения интелект. Вероятно защитата на поверителната информация и въпросите, свързани с дискриминацията в областта на ИИ ще бъдат една от областите на работа на тази организация.

Към инициативата на CoSAI са се присъединили също ИТ гиганти като IBM, PayPal, Cisco и Anthropic. CoSAI ще съществува в рамките на „Организацията за усъвършенстване на стандартите за структурирана информация“ (OASIS) – група с нестопанска цел, която насърчава отворените стандарти.

CоSAI отбелязва три основни области на фокус:

• разработване на ефективни практики за сигурност на изкуствения интелект;
• справяне с общите предизвикателства, свързани с изкуствения интелект;
• защита на приложенията, базирани на изкуствен интелект.

„Ние използваме ИИ от много години и виждаме ползите, които той може да донесе, но също така осъзнаваме потенциала му да представлява интерес за нападателите. CoSAI има за цел да помогне на малки и големи организации безопасно и отговорно да интегрират и използват ползите от ИИ в своите екосистеми, като същевременно намаляват всички потенциално свързани с него рискове.“

заяви в изявление Хедър Адкинс, вицепрезидент по сигурността на Google