ChatGPT вероятно няма да помогне за създаването на биологични оръжия, твърдят от OpenAI

От OpenAI смятат, че има малка вероятност ChatGPT да се използва за създаване на биологични заплахи.

В новия си доклад стартъпът заяви, че неговият голям езиков модел (LLM) GPT-4 осигурява „най-много леко повишаване“ на способността за създаване на биологични оръжия, но предупреди, че бъдещите модели могат да бъдат по-полезни за злонамерени участници, които искат да използват чатботове за създаване на биологични оръжия.

Експертите предупреждават, че изкуственият интелект може да бъде използван за улесняване на биологични терористични атаки. Той може да помогне на терористите да създават биологични и химически оръжия или като им помага да планират атаките си.

В обширен доклад от миналата година се констатира, че LLM могат да се използват за планирането на биологични атаки. Макар че в докладът се казва, че те не могат да предоставят конкретни инструкции за действителното създаване на биологични оръжия.

Други представители на технологичната индустрия също изразиха тревога.

По време на изслушванията в сенатската комисия на САЩ миналата година, главният изпълнителен директор на Meta Марк Зукърбърг се сблъска с твърденията, че моделът Llama 2 на Meta предоставя подробна инструкция за създаване на антракс.

Докладът на екипа за готовност на OpenAI имаше за цел да проучи тези опасения. Той беше сформиран миналата година. Целта му бе да проучи потенциалните „катастрофални“ последици, които биха могли да възникнат от развитието на усъвършенстван изкуствен интелект.

Изследователите събрали група от 50 експерти по биология и 50 студенти, които са преминали поне един курс по биология в колеж. След това те ги разпределили на случаен принцип в група с достъп до GPT-4 или в контролна група с достъп до интернет.

И двете групи са имали задачата да се опитат да отговорят на редица въпроси, свързани със създаването на биологично оръжие. Включително как биха синтезирали силно заразния вирус Ебола. Групата, участваща в GPT-4 е получила достъп до версия на модела, предназначена само за научни изследвания. Тя за разлика от ChatGPT има по-малко „предпазни мерки“.

Проучването установява, че макар при лицата с достъп до GPT-4 да се наблюдава малко увеличение на точността и детайлността в сравнение с групата, използваща само интернет, увеличението не е достатъчно статистически значимо, за да покаже реално увеличение на риска.

„Въпреки че това повишение не е достатъчно голямо, за да бъде окончателно, нашата констатация е отправна точка за продължаване на изследванията и обсъжданията в общността.“

заявиха от OpenAI

Компанията също така поясни:. предвид сегашния темп на иновациите в областта на ИИ е възможно бъдещите версии на ChatGPT да „предоставят значителни ползи на злонамерените участници“.