Anthropic забранява на Claude да помага за създаването на оръжия за масово унищожение

В отговор на нарастващите опасения относно безопасността на изкуствения интелект, Anthropic промени политиката си за използване на своя гласов чатбот Claude. Новите правила сега строго забраняват използването на Claude за създаване на високоефективни взривни вещества или разработване на биологични, химически, радиологични или ядрени оръжия, съобщава PCMag.

Ясна формулировка на небезопасни сценарии

Условията за ползване преди това забраняваха „разработването на оръжия, взривни вещества, опасни материали или системи, които причиняват вреда“, но сега Anthropic за първи път подробно описва забранените категории. Както отбелязва The Verge, новите условия се фокусират върху специфични видове оръжия за масово унищожение и техните прекурсори.

Подобни разяснения са в отговор на нарастващия брой научни изследвания, демонстриращи потенциалните рискове от използването на големи езикови модели (LLM) при разработването на забранени технологии.

Откритост за политически диалог

На фона на засилените ограничения за сигурност, компанията също така отмени пълната забрана за създаване на политическо съдържание. Claude вече може да генерира материали, свързани с политически кампании или лобиране, стига те да не нарушават демократичните процеси или да не са насочени към манипулиране на избирателите.

В изявлението на Anthropic се подчертава, че новият подход е предназначен да „позволи легитимен политически дискурс“, като същевременно защитава избирателните процеси от дезинформация и намеса.

Забрана за киберпрестъпления

Актуализацията на политиката включва и нови разпоредби, забраняващи използването на Claude за извършване на кибератаки или създаване на зловреден софтуер, което е важна стъпка в контекста на нарастващите опасения относно потенциалното използване на изкуствен интелект за престъпни цели.