Зукърбърг заяви, че ИИ компаниите имат стимули да се грижат за безопасността

В САЩ, главният изпълнителен директор на Meta, Марк Зукърбърг, заяви, че конкуренцията и правната отговорност осигуряват достатъчни стимули за AI компаниите, за да гарантират самостоятелно безопасността на своите модели. Той написа това на 15 септември в социалната мрежа X, съобщава Channel NewsAsia.

Според Зукърбърг, всяка лаборатория има отговорността и стимула да разработва модели с темпото, необходимо за безопасното им обучение, и може да предприема независими мерки, за да гарантира това. Той също така заяви, че доверието и последователността все повече ще разграничават агентите и ИИ моделите от различните разработчици.

Разногласия относно темповете на развитие

Изявлението на Зукърбърг дойде три дни след като главният изпълнителен директор на Anthropic, Дарио Амодей, призова за забавяне на усъвършенстването на ИИ моделите. Амодей повдигна този въпрос на фона на предупрежденията от редица изследователи за екзистенциалните рискове на технологията. Призивът му беше публично подкрепен от главния изпълнителен директор на OpenAI, Сам Алтман, и основателя на xAI, Илон Мъск.

На 14 септември президентът на САЩ Доналд Тръмп омаловажи опасенията относно потенциалната вреда от изкуствения интелект, твърдейки, че страната вече е въвела предпазни мерки. Той също така предположи, че съмненията относно развитието на технологията биха могли да са в полза на Китай. Главният изпълнителен директор на Nvidia, Дженсън Хуанг, между другото, споделя мнението, че регулациите биха могли да отслабят конкурентоспособността на американските компании.

Позицията на Meta по въпросите на сигурността

Зукърбърг заяви, че лабораториите имат силен стимул да предотвратяват вреда от своите модели, тъй като в противен случай биха могли да бъдат изправени пред значителна правна отговорност. Той даде пример с Meta, която забави пускането на своя агент Muse AI тази година, за да засили сигурността си.

Главният изпълнителен директор на Meta заяви също, че компанията е фокусирала по-голямата част от своите изчислителни ресурси върху продуктите, които отговарят на текущите нужди на потребителите, а не върху системи с изкуствен интелект, способни на самоусъвършенстване. Той добави, че подразделението Meta Superintelligence Labs вече ангажира независими оценители в няколко области и счита това за най-добра практика в индустрията.

На 15 септември председателят на Федералната търговска комисия на САЩ Андрю Фъргюсън призова за предпазливо отношение към ИИ компаниите, които търсят антитръстови изключения, като едновременно с това лобира за нови регулации. Изданието отбелязва, че миналата седмица Амодей е поискал такива изключения, за да могат конкурентите да координират забавянето на развитието на изкуствения интелект от съображения за безопасност.

Припомнете си, че шефът на Nvidia увери Доналд Тръмп, ча „Няма да допуснем забавяне в областта на AI“.