Отдавна трябваше: десетки водещи учени подписаха документ, целящ да предотврати разработването на биологични оръжия с помощта на изкуствен интелект

Само че в същото споразумение, подписано от повече от 90 учени, се казва още, че ползите от изкуствения интелект за биологията ще надхвърлят евентуалните вреди.

Миналата година Дарио Амодей, ръководител на Anthropic, известна компания за изкуствен интелект, заяви пред Конгреса, че новите технологии за изкуствен интелект скоро биха могли да помогнат на неумели, но злонамерени хора да извършат мащабни биологични атаки. Като например да създадат и пуснат вируси или токсични вещества, които да причинят масови заболявания и смърт.

Сенаторите и от двете партии бяха разтревожени, а изследователите на ИИ в индустрията и академичните среди дебатираха колко все пак сериозна може да бъде заплахата.

Синтетични протеини?

Ето че сега над 90 биолози и други учени, специализирани в технологиите за ИИ изказаха друго мнение. По-точно относно технологиите използвани за проектиране на нови протеини. Това са микроскопични образувания, които са в основата на цялата биология. Тези учени подписаха споразумение, което има за цел да гарантира, че техните изследвания в областта на ИИ ще продължат, без да излагат света на сериозен риск.

Биолозите, сред които е и нобеловият лауреат Франсис Арнолд, представляващи лаборатории в САЩ и други страни, заявиха също така, че най-новите технологии ще донесат много повече ползи, отколкото вреди. Като например нови ваксини и лекарства.

„Като учени, занимаващи се с тази работа, ние вярваме, че ползите от настоящите AI технологии за проектиране на протеини далеч надхвърлят потенциалните вреди. И бихме искали нашите изследвания да останат полезни за всички и в бъдеще“,

се казва в споразумението.

Нов генетичен материал?

Споразумението няма за цел да потисне развитието или разпространението на технологиите за изкуствен интелект. Вместо това биолозите се стремят да регулират използването на оборудването, необходимо за производството на нов генетичен материал.

Според Дейвид Бейкър, директор на Института за проектиране на протеини към Вашингтонския университет, който е помогнал за изготвянето на споразумението, оборудването за производство на ДНК в крайна сметка дава възможност за разработване на биологични оръжия.

„Проектирането на протеини е само първата стъпка в създаването на синтетични протеини“, каза той в интервю. „След това трябва да синтезирате ДНК и да пренесете дизайна от компютъра в реалния свят. Ето това е най-подходящото място за регулация“.

Споразумението е един от многото опити да се претеглят рисковете, свързани с използването на изкуствен интелект, спрямо възможните ползи. Тъй като от една страна някои експерти предупреждават, че ИИ технологиите могат да спомогнат за разпространяването на дезинформация, да заменят работни места с извънредно бързи темпове. И може би дори да унищожат човечеството. От друга страна мнозина от технологичните компании, академичните лаборатории, регулаторните органи и законодателите се опитват да разберат тези рискове. Както и да намерят начини да се справят с тях.

Компанията на д-р Амодей, Anthropic, създава големи езикови модели, или LLM. Добре познатата вече технология за управление на онлайн чатботове. В изказване пред Конгреса той заяви, че тази технология скоро може да помогне на злоумишлениците да създадат нови биологични оръжия.

Той обаче призна, че днес това не е възможно. Неотдавна Anthropic проведе подробно проучване, което показа, че ако някой се опитва да се сдобие или да разработи биологично оръжие, LLM ботовете се оказват съвсем малко по-полезни от типичната интернет търсачка.

Д-р Амодей и други експерти се опасяват, че с усъвършенстването на LLM от страна на компаниите и комбинирането им с други технологии ще се стигне до сериозна заплаха. Той заяви пред Конгреса, че това ще се случи само след две-три години.

OpenAI, създател на онлайн чатбота ChatGPT, по-късно проведе подобно проучване, което установи, че LLM не е много по-опасен от търсачките. Александър Мондри, професор по компютърни науки в Масачузетския технологичен институт и главен отговорник по готовността на OpenAI, заяви, че вярва, че изследователите ще продължат да подобряват тези системи. И че досега той не е виждал доказателства, че с тяхна помощ ще може да се създаде ново биологично оръжие.

Днешните LLM се създават чрез анализ на огромни количества цифрови текстове, събрани от целия интернет. Това означава, че те преработват и/или рекомбинират това, което вече е налично онлайн. Включително съществуваща информация за биологични атаки. (The New York Times съди OpenAI и нейния партньор, Microsoft, като твърди, че са нарушени авторските права в този процес).

Новите лекарства

Но в стремежа си да ускорят разработването на нови лекарства, ваксини и други полезни биологични материали, изследователите започват да създават тясно специализирани ИИ системи с изкуствен интелект. Те могат да генерират съвсем нови и непознати протеинови конструкции. Биолозите твърдят, че тази технология би могла да помогне и на злоумишлениците да разработят биологични оръжия. Но все пак отбелязват, че създаването на такива оръжия би изисквало лаборатория за много милиони долари. Включително оборудване за производството на ДНК.

„Съществуват определени рискове, които не изискват инфраструктура за милиони долари. Но тези рискове съществуват отдавна и не са свързани с изкуствения интелект“,

казва Андрю Уайт, съосновател на организацията с нестопанска цел Future House и един от биолозите, подписали споразумението.

Биолозите призоваха за мерки за безопасност, които да предотвратят използването на оборудване за производство на ДНК с вредни за организма качества. Въпреки че не е ясно как ще действат тези мерки. Те също така призоваха новите ИИ модели да бъдат тествани за безопасност и надеждност, преди да бъдат пуснати на пазара.

„Тези технологии не трябва да бъдат притежание само на малък брой хора или организации“, заяви Рама Ранганатан, професор по биохимия и молекулярна биология в Чикагския университет, който също подписа споразумението. „Общността на учените трябва да бъде свободна да ги изучава и да допринася за тяхното развитие“.

Статията е на The New York Times и поставя интересния въпрос коя група от учени може да да е на по-верния път. Тази, която чрез този писмен документ отрече използването на ИИ за създаването на изкуствени протеини и невиждани досега генетични материали, които могат да се използват за създаването на невероятни биологични оръжия. Или другата група изследователи, които са на мнение, че ИИ може да се използва за създаването на нови лекарства, които могат да подобрят здравето и продължителността на живота на хората.