Изкуственият интелект е способен да създава биологични оръжия – Bloomberg

Изкуственият интелект може да помогне на потребителите да създават биологични оръжия. Биохимикът и бивш инспектор на ООН Роко Казагранде отправи такова предупреждение към Белия дом, пише Bloomberg. Той е стигнал до това заключение, след като е анализирал чатбота Claude. 

Казагранде е казал на служителите на Белия дом през пролетта на 2023 г., че изкуственият интелект може да помогне на терористите да работят с мощни токсини и да създават нови вируси.

Биохимикът също така твърди, че изкуственият интелект ще позволи създаването у дома на оръжия за масово унищожение. Източници на Bloomberg, запознати с презентацията на учения, казаха, че срещата с Роко Казагранде е разтревожила американските чиновници.

Роко Казагранде, докато тествал чатбота Claude по покана на компанията Anthropic, събрал екип от експерти в областта на микробиологията и вирусологията, които са задавали различни въпроси на невронната мрежа.

Те са попитали кои патогени могат да причинят най-много щети, как да закупят материалите, необходими за създаването им в лабораторията, и как да отгледат микроорганизмите. В резултат на това AI е предложил начини за използване на патогените в ракети, за да причинят максимални щети.

Според източниците на Bloomberg, президентът на САЩ Джо Байдън, вицепрезидентът Камала Харис и съветникът по национална сигурност са „проявили интерес“ към доклада на биохимика. През октомври 2023 г. администрацията на президента на САЩ издаде указ за засилване на контрола за изследванията върху изкуствени геноми.

Комбинацията от иновации като синтетичната биология (с която учените манипулират гените и генома, за да създадат нови биологични системи) и изкуствения интелект може да се превърне в кошмар за правителствата, посочва агенцията. Тъй като генеративният AI продължава да се подобрява, хората ще могат да го използват, за да „създадат най-отвратителните неща“ — казва биологът и доцент Кевин Есвелт от MIT, имайки предвид вируси и токсини, които в момента не съществуват.

През юли 174 учени, включително и Нобеловият лауреат по химия Франсис Арнолд и един от пионерите на съвременните техники за редактиране на генома, Джордж Чърч, подписаха писмо, в което обещаха да използват AI в подкрепа на изследванията, които ще предотвратят сценарии за края на света. Ползите от ИИ „далеч надвишават потенциалната вреда“ — смятат учените.