Проучване предупреждава, че ИИ-моделите могат да бъдат използвани за атаки с биологично оръжие

Най-вероятно, тъй като те са толкова актуални в момента сте използвали чатбот с изкуствен интелект като ChatGPT или Bard. Ако се замислите колко дълъг е пътят на технологиите, може би ще се замислите за огромните възможности, които притежават тези инструменти, но като се имат предвид техните предимства, всяка нова технологична революция идва и с недостатъци, сред които са и злоупотребите.

Какво точно е установило новото проучване?

Според нов доклад на американски мозъчен тръст, моделите на изкуствения интелект (ИИ), които захранват чатботове и други инструменти, биха могли да помогнат при планирането и осъществяването на биологична атака.

В понеделник Rand Corporation публикува доклад, в който се посочва, че различни големи езикови модели (LLM) са били подложени на тестове и е установено, че те предлагат полезни насоки за планирането и осъществяването на биологична атака. Предварителните констатации обаче разкриват също, че LLM не са дали изрични биологични инструкции за създаване на оръжия.

Според The Guardian на предстоящата световна среща на върха за безопасността на ИИ в Обединеното кралство ще бъдат обсъдени сериозни заплахи, свързани с ИИ, включително биологичните оръжия. Дарио Амодей – главен изпълнителен директор на Anthropic по-рано също предупреди, че системите с ИИ могат да помогнат за създаването на биологично оръжие през следващите 2-3 години.

Изследователите, провели проучването за потенциала на ИИ не уточняват кои LLM са били тествани. Все пак е важно да се отбележи, че LLM, обучени върху огромни количества интернет данни са основната технология зад чатботовете като ChatGPT. Изследователите са получили достъп до тези модели чрез API.

Възможни сценарии

От Rand проведоха тестов сценарий, при който неразкрит LLM беше използван за идентифициране на потенциални биологични агенти, като дребна шарка, антракс и чума и обсъди вероятността те да причинят масова смърт. LLM също така оцени възможността за получаване на заразени с чума гризачи или бълхи и транспортиране на живи екземпляри. Мащабът на прогнозираните смъртни случаи зависеше от различни фактори, включително размера на засегнатото население и дела на случаите на пневмонична чума, която е по-смъртоносна от бубонната чума.

В друг сценарий неназованият LLM оцени предимствата и недостатъците на различни механизми за доставка на ботулинов токсин. LLM оцени възможностите за използване на храна или аерозоли за доставяне на токсина, който може да причини фатално увреждане на нервите.

Според изследователите предварителните им констатации сочат, че LLM имат потенциал да подпомогнат планирането на биологична атака. Те споменаха, че в окончателния си доклад ще проучат дали отговорите, получени от LLM са сходни с информацията, налична онлайн. Изследователите заявиха, че не е сигурно дали възможностите на настоящите LLM представляват по-значителна заплаха от информацията, която вече е достъпна в интернет.

Въпреки това изследователите от Rand заявиха, че е недвусмислено, че е необходимо стриктно тестване на моделите. Те препоръчаха на компаниите, занимаващи се с изкуствен интелект да ограничат отвореността на LLM за разговори като тези в техния доклад. Изследователите също така призоваха за сътрудничество между правителството и индустрията, за да се гарантира безопасността и ползите от ИИ.