16 световни лидери в областта на изкуствения интелект, сред които Google, Microsoft, IBM и OpenAI подписаха ангажименти да деактивират своите ИИ технологии в случай на потенциално опасно излагане на риск. Подписването се състоя в Южна Корея на срещата на върха за безопасността на изкуствения интелект.
В рамките на срещата на върха бяха поети нови ангажименти за безопасността на усъвършенстваните ИИ-технологии. Участващите компании се съгласиха да публикуват своите методологии за оценка на рисковете, свързани с техните модели на ИИ, като опишат приемливите нива на риск и действията, които се предприемат, ако тези нива бъдат надвишени. Ако рисковете не могат да бъдат намалени под установения праг, компаниите се ангажират да не разработват и внедряват съответните модели и системи.
Въпреки, че ангажиментът звучи обещаващо, подробностите все още не са уточнени. Те ще бъдат обсъдени на срещата на високо равнище за действие в областта на изкуствения интелект, която ще се проведе в началото на 2025 година.
Дружествата, които подписаха документа в Сеул също поеха ангажимент да:
- Извършват тестове на техните усъвършенствани ИИ-модели;
- Споделят информация;
- Инвестират в киберсигурност и предотвратяване на вътрешни заплахи, за да защитят неиздадените технологии;
- Насърчават откриването на уязвимости от изследователи от трети страни;
- Етикетират на съдържанието от ИИ;
- Да дадат приоритет на изследванията на социалните рискове, свързани с ИИ.
По време на срещата на върха беше приета и Декларация на Сеул. В документа се посочва, че е важно да се осигури оперативна съвместимост между системите за управление на ИИ въз основа на подход, основан на риска, за да се увеличат максимално ползите и да се преодолеят широкият спектър от рискове, свързани с ИИ. Това е от съществено значение за безопасното, сигурно и надеждно проектиране, разработване, внедряване и използване на изкуствения интелект.
Участниците в сесията включваха правителствени представители на Г-7, Сингапур, Австралия, ООН, ОИСР и ЕС, както и представители на индустрията.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
