Големият проблем в създаването на лекарства от изкуствен интелект

Невронните мрежи навлизат във всички области на ежедневието провличайки всеобщото внимание. И докато вече знаем нещо за тяхната роля в развитието на икономиката и образованието, какво да кажем за биологията и медицината? Така например през месец март тази година учени съобщиха за разработването с помощта на изкуствен интелект на 40 000 потенциално смъртоносни молекули. А десетки хиляди нови вещества, наподобяващи мощни нервнопаралитични отрови, бяха получени само за шест часа.

Авторите на статията, публикувана в Nature Machine Intelligence, са използвали нови генеративни модели и не са били сигурни в резултата от експеримента, затова някои подробности от изследването са засекретени и академичната общност дискутира дали да направи тези данни достъпни за обществеността. Новите AI алгоритми за проектиране на протеини, които биха могли да се използват за създаване на нови лекарства, както и на биологични оръжия, също предизвикват загриженост. Нека да се спрем малко по-подробно на ролята, която играят системите с изкуствен интелект в биологията и медицината.

Каквото и да разработват учените, все се стига до оръжия – Кърт Вонегът, „Люлката на котката“.

Биологично и химическо оръжие

Откакто животът се е появил на Земята, всички съществуващи организми се борят за оцеляване. Освен хищниците, чиято диета се състои предимно от други животни, на нашата планета има безброй патогени и токсини, контактът с които е фатален: заразяването с някои животински и растителни патогени може да се превърне в екологична катастрофа и пандемия.

И все пак естествената еволюция на вирусите и бактериите поразително се различава. В историята, уви, хората са търсили все по-нови начини да се убиват един друг, особено по време на войни. За първа регистрирана употреба на биологични агенти например се счита използването на мъртви животни от римляните за замърсяване на водоснабдяването на враговете им. Тази тактика не само намалила броя на вражеските войски, но и понижила морала на бойците.

Друг акт на биотероризъм е пренасянето на заразени с чума трупове през стените на Кафа (в Крим) през 1346-1347 г. – така монголите принуждават обсадените противници да бягат. Някои историци са на мнение, че това събитие е предизвикало чумната епидемия, обхванала средновековна Европа и отнела живота на 25 милиона души.

Следващото биологично оръжие са одеялата, използвани за увиване на починалите от едра шарка британци през 1767 г. По време на Френско-индианските войни тези одеяла са били раздавани на враждебно настроените индиански племена. След това, между 1916 г. и 1918 г., антраксът се превръща в оръжие, заразявайки коне и добитък за износ към съюзниците. Инцидентите включват заразяване на румънски овце, аржентински мулета и храна за животни.

За периода 1874-1907 г. повечето западни държави подписват редица международни договори, забраняващи използването на отрови и отровни оръжия във войната. Биологичната война се определя като умишлено разпространение на болести сред хора, животни и растения.

Първата световна война

Същото важи и за химическите оръжия, първите доказателства за които историците датират към 600 г. пр.н.е., когато атинските военни замърсяват водоснабдяването на обсадения град Кирх с отровните растения хелеборе. Най-голяма известност обаче химическите оръжия придобиват след събитията от Първата световна война, причинили най-много наранявания и смъртни случаи.

Три вещества се оказват най-смъртоносни: хлорът, фосгенът и ипритът. Хлорният газ, използван в печално известния ден 22 април 1915 г., образува зеленикаво-жълт облак, който дразни очите, носа, белите дробове и гърлото. В достатъчно високи дози той убива чрез задушаване. Фосгенът, който мирише на мухлясало сено, е скрито оръжие: този безцветен газ е по-смъртоносен от хлорния газ. Отравянето с иприт, безцветен газ като фосгена, става видимо няколко часа след излагане на въздействието му, като често причинява слепота. Ипритът също така замърсява земята, където е бил използван.

Ерата на новите оръжия

Въпреки че през 1925 г. Лигата на нациите приема Женевския протокол, забраняващ използването на химически и биологични агенти във войната (но не забраняващ разработването, производството или складирането на такива оръжия), през 1937 г. Япония започва да разработва програма за нападателни биологични оръжия. По онова време се счита, че при експериментите са загинали най-малко 10 000 затворници.

След това, през 1939 г., Япония отравя съветските водни запаси с тифни бактерии, а през 1940 г. пуска над Китай и Манджурия ориз и пшеница, примесени с бълхи, пренасящи чума. Може да се каже, че от 40-те години на миналия век човечеството навлиза в нова епоха, след като разработва ядрено оръжие и модернизира химическото и биологическото въоръжение (производството на последното, между другото, е изключително евтино).

Изкуственият интелект – оръжието на 21 век?

„Новата ера на биологията„, настъпила през последните няколко десетилетия, се характеризира със значително ускоряване на научно-техническия прогрес и сближаване на биологията с математиката, инженеринга, химията, квантовата механика и изкуствения интелект. И макар че тези постижения като цяло подобряват състоянието на човека, с тях може и да се злоупотребява.

Така например технологията за подобряване на функционалността може да се използва за създаване на потенциално вредни патогени в лабораториите, а технологията за редактиране на генома може да се използва за манипулиране на ДНК по най-различни начини. А какво да кажем за системите с изкуствен интелект, които вече могат да се използват за разработване на нови биологични оръжия или токсини (които между другото са неоткриваеми)? Тъй като тези системи се развиват наред с новите по-прости, по-евтини и по-бързи производствени възможности, учените все повече насочват вниманието си към биологическата сигурност и глобалните рискове.

Съвременните системи с изкуствен интелект откриват болести в ранен стадий и създават полезни химически и лекарствени съединения. Същата технология обаче може да се използва за създаване на потенциално опасни и смъртоносни вещества, твърдят експертите.

Така например авторите на едно сензационно проучване, в резултат на което с помощта на изкуствен интелект бяха разработени над 40 000 силни отрови, изтъкват, че са „прекарали десетилетия в използването на компютри и изкуствен интелект за подобряване на човешкото здраве, а не за влошаването му„. По време на международна конференция за безопасност учените стартираха системата с изкуствен интелект MegaSyn в необичаен режим на работа, който включва целенасоченото и умишлено търсене на токсични молекули.

Представената версия на MegaSyn бе обучена и да комбинира откритите молекули, което ѝ позволи да създаде над 40 000 потенциално опасни молекулярни съединения за рекордните шест часа. Впоследствие се оказа, че много от тях са дори по-токсични от VX – фосфорорганично бойно отровно вещество с невропаралитично действие.

„Като променихме използването на моделите за машинно обучение, превърнахме нашия безобиден генеративен модел от полезен медицински инструмент в генератор на потенциално смъртоносни бойни отрови“, заявиха авторите на научния труд.

Въпреки че нито едно от споменатите в статията съединения не съществува в реалността, експериментът предупреждава изследователите от целия свят за опасностите, които крие изкуственият интелект, и с оглед на историята на човечеството би било добре да се съобразяваме с това. Още повече, че по-голямата част от процеса е сравнително лесна за използване и реализиране с помощта на общодостъпни инструменти.

Новото биологично оръжие

Оказва се, че един хипотетичен автономен производител на смъртоносни химически оръжия всъщност е съвсем реален. Можете да се убедите в това, като разгледате представянето на новата система, базирана на изкуствен интелект, за конструиране на протеини – алгоритъм, който е способен да създава много различни съединения и е предназначен да подпомага търсенето на нови лекарства. Моделите на изкуствения интелект, като ProtGPT2 и ProGen например, дават възможност на учените да си представят много по-широк спектър от молекули и протеини, отколкото когато и да било преди.

Между другото, на природата са й били необходими милиони години, за да създаде протеините. Сега мощни системи с изкуствен интелект генерират смислени протеинови последователности за секунди. Така че какъв е проблемът? Както обясняват авторите на статията, публикувана в бюлетина на Чикагския университет Bulletin of the Atomics, вместо да извличат токсините от преките им източници, новите технологии позволяват производството на смъртоносни отрови в бактерии или други клетки.

„В природата има отрови, произвеждани от организми като растения и плесени. Така например рицинът, токсин, получен от рициновото зърно, има вероятност да е бил използван от българските агенти в Лондон през 1978 г. при убийството на българския дисидент Георги Марков“, се казва в статията.

„Друг пример е ботулиновият невротоксин, който е 100 000 пъти по-токсичен от нервнопаралитичния агент зарин и е основен компонент на правителствените арсенали от биологични оръжия. „Ако технологията за разработване и производство на протеинови токсини се усъвършенства, например чрез улесняване разработването на нови токсини или подобряване на съществуващите, това не може да не бъде причина за безпокойство“, казват още експертите.

Всъщност разработването на протеини с помощта на изкуствен интелект е потенциално революционно постижение. Защото протеините са буквално молекулярните машини на живота, които изпълняват широк спектър от основни функции. Като се има предвид изключителната роля на тези „градивни елементи на живота“, наличието на нови протеинови съединения може да доведе до създаването на лекарства за генетични и невродегенеративни заболявания. Но това е само едната страна на монетата.

Важно е да се разбере, че биолозите не са наивни по отношение на аспектите на безопасността на своята професия и малцина биха искали науката да се използва за умишлено причиняване на вреда. Въпреки това изглежда, че рисковете не се разбират напълно от всички. Така например в публикуваните по-рано статии за способностите ProtGPT2 и ProGen не се разглеждат потенциалните опасности, свързани с технологичните нововъведения. Освен това новите ИИ модели са публично достъпни.

И докато разработването на молекули или протеини, които изпълняват определена задача, може да изглежда безобидно, то съчетаването на тази способност с технологията за реално производство на продукта ни отвежда в една съвсем друга реалност. И като се имат предвид описаните по-горе изследвания за разработването на 40 000 аналога на нервнопаралитичното вещество VX, създаването на нови, непознати на науката протеинови съединения може да доведе до катастрофа, вместо да създаде лекарство за болестта на Алцхаймер и Паркинсон.