Изкуствен интелект за масово поразяване: Хенри Кисинджър и Ерик Шмид за заплахите от кибервойната

Контролът върху кибероръжията е невъзможен и колкото по-високо е нивото на технологично развитие на обществото, толкова по-уязвимо става то. Освен това опасността от използването на изкуствения интелект в услуга на политиците идва от това, че той няма нито психология, нито морал, а само цели и задачи. Ето какво казват бившият държавен секретар на САЩ, главният изпълнителен директор на Google и главният изпълнителен директор на Amazon за бъдещето на човечеството и предизвикателствата, за възможностите и заплахите от изкуствения интелект.

Книгата „Епохата на ИИ: и нашето човешко бъдеще“ има трима автори: бившият държавен секретар на САЩ и носител на Нобелова награда за мир за 1973 година Хенри Кисинджър, бившият главен изпълнителен директор на Google, бившият председател на борда на директорите от Alphabet и милиардер Ерик Шмид, както и бившият главен изпълнителен директор на Amazon Даниел Хътенлокър. Тези много успешни и много известни хора са се опитали в своята книга да отговорят на въпроса как ще се трансформира човечеството и какво влияние ще му окажат тези съвсем нови технологии, включително в области като политиката и безопасността на хората.

В книгата не се уточнява дали всички глави са написани съвместно от тримата автори, или някой от тях е допринесъл повече за написването на някоя глава от нея. Може да се предположи, че главата за сигурността и ролята на изкуствения интелект в съвременната война е написана предимно от Кисинджър. Вярно е, че Ерик Шмид също има много задълбочени познания в тази област – така например, той е ръководител на Комисията за национална сигурност на САЩ по изкуствен интелект и съавтор на основния доклад на тази комисия. Forbes публикува извадка от тази глава, посветена на темата за кибероръжията и предизвикателствата при използването на ИИ във военните конфликти.

Война по време на цифровата ера

През цялата човешка история политическото влияние на една нация е имало тенденция да бъде пряко свързано с нейната военна мощ и стратегически способности – нейният потенциал да причини щети на други нации. Проблемът обаче е, че равновесието, базирано на изчисляване на силата, е нестабилно и не се поддържа само по себе си – то разчита преди всичко на общото разбиране за това кое точно се счита за сила и какви са законните граници на нейното прилагане. Тоест, поддържането на този баланс изисква всеобщо разбиране между всички участници в системата на международните отношения – особено противниците – за относителните възможности и намерения на държавите, както и за последствията от агресията. И накрая, поддържането на баланса изисква действителен и признат паритет. Когато един от участниците в системата увеличи силата си непропорционално, системата ще се опита да се адаптира – или чрез организиране на противоположна сила, или чрез приспособяване към новата реалност. Ако балансът е нестабилен или не се признава от участниците в международните отношения, рискът от конфликт се увеличава драстично.

В наши дни изчисляването на равновесието стана съвсем абстрактно. Причината за това са кибероръжията, които се считат за клас оръжия с неясен статус. В някои случаи кибероръжията повишават военната мощ на дадена страна, дори и тази страна да отрича, че ги притежава. Това сериозно променя ситуацията. В близкото минало, ако започнеше война, веднага ставаше ясно какво се е случило и кои страни воюват. Противниците преценяваха силите на участниците и темпа, с който тези сили могат да бъдат разгърнати. Но при кибероръжието тези похвати не действат.

Дори ядрените оръжия съществуват в обикновения свят, където реално може да се види тяхното разгръщане и да се определят техните възможности – поне приблизително. Точно обратното, едно от основните свойства на кибероръжията е тяхната непрозрачност, понеже разкриването на каквато и да било информация за тях може в една или друга степен да попречи на използването им. Например, така наречените атаки тип нулев ден използват неизвестни досега бъгове в софтуера, като получават достъп до мрежата или компютърната система без разрешението и дори знанието на потребителя. В случай на разпределени DDoS атаки се правят много информационни заявки, които блокират компютърните системи. Истинските източници на този тип атаки са скрити, което прави трудно и дори невъзможно идентифицирането на нападателя. Един от най-известните случаи на индустриален саботаж с помощта на кибернетична технология бе вирусната атака Stuxnet, която промени работата и деактивира някои от компютрите, управляващи иранските ядрени разработки. Но атаката Stuxnet не бе обсъждана публично от страните, за които се предполага че са я извършили.

Моралните и правните норми предвиждат използването на конвенционални и ядрени оръжия само срещу военни сили и обекти. За разлика от тях, кибероръжията имат огромно въздействие върху изчислителните и комуникационните мрежи, като много често сериозно засягат и цивилните компютърни системи. И още, кибероръжията могат да бъдат използвани от други страни за други цели, включително за нанасяне на вреда на атакуващата страна. В това отношение кибероръжиятата започнаха да приличат на биологичните и химическите оръжия, които могат да се разпространяват по най-различни начини. В редица случаи всичко това засяга голяма част от цялото общество, а не само бойните цели.

Така например, атаките на зловредния софтуер Petya срещу украинските финансови институции и правителствени организации, които бяха осъществени през 2017 година бързо се разпространиха извън Украйна и засегнаха голям брой електроцентрали, болници, транспортни и логистични фирми, както и енергийни компании в други държави, включително и Русия. По този начин самите основни свойства на кибероръжията, които ги правят ефективни, правят почти невъзможен контрола на кибероръжието. Когато преговарящите за контрол на ядрените оръжия разкриваха или описваха различните класове бойни глави, те не отричаха възможностите на тези оръжия. Но преговарящите по отношение на кибероръжията ще се сблъскат с интересен парадокс – самото обсъждане на възможностите на кибероръжието рязко намалява тяхната ефикасност, понеже противникът може бързо да елиминира уязвимостите, към които се използват.

Основното противоречие на дигиталната ера е, че колкото по-голям е цифровият потенциал на едно общество, толкова по-уязвимо става то. Компютрите, комуникационните системи, финансовите пазари, енергийните мрежи (и цифровите системи за командване и контрол, от които зависят), дори механизмите на демократичната политика – всички са уязвими на манипулации и кибератаки. Тъй като напредналите икономики масово интегрират цифрови системи за командване и контрол в електроцентралите и енергийните мрежи, прехвърлят все повече правителствени програми към мощни сървъри и облачни системи, то тяхната уязвимост към кибератаки се увеличава, докато държавите с недостатъчно развити технологии, както и терористичните организации имат много по-малки загуби от подобни атаки.

Относително ниската цена на кибероперациите и тяхната относителна невидимост насърчават някои държави да използват полуавтономни групи за кибервойна. За разлика от четите, наводнили Балканите в навечерието на Първата световна война, тези групировки са трудни за контрол и могат да се занимават със саботажни дейности без да им бъдат наложени официални санкции. Тъй като изтичането на данни и киберсаботажът могат да неутрализират голяма част от киберспособностите на държавата, и което е по-важно – да променят вътрешния политически ландшафт, скоростта и непредвидимостта на тази IT сфера и разнообразието от действащи лица, които присъстват в нея, могат да принудят политиците бързо да преминат към офанзивни действия, за да нанесат ответни удари. Тъй като това не е традиционна война, подобни действия могат да се окажат разрушителни за цели държави, както и за отношенията между тях.

Скоростта и неяснотата на киберпространството са благоприятни както за настъплението, така и контранастъплението. Започна развитието на съвсем нови стратегии и доктрини, като това става тайно, в една нова сенчеста среда. За осигуряването на безопасността в подобни условия са необходими дълбоки познания и системно изучаване на тази материя, както и съвместна работа от страна на различните правителства.

Намесата на изкуствения интелект във военната сфера

Броят на военните парадокси, тайни действия и някои неясноти при ядрените оръжия, както и възможностите на киборъжията, рязко нараснаха с появата на новите изкуствени интелекти. Държавите, които специално създават и обучават ИИ за военно използване изобщо не афишират своите разработки, които наистина могат да имат революционно въздействие върху отбранителната политика и безопасността на всяка една държава. Използването на нечовешко мислене във военните системи и процеси променя стратегията. Въоръжените сили и специалните служби, които използват ИИ, постигат изумителни и дори зашеметяващи предимства. Използването на ИИ във военното дело по невероятен начин засилва традиционните стратегии и тактики.

Ако даден ИИ получи известен контрол върху кибернитичните и/или физическите бойни системи, той той може успешно да изпълнява бойни операции, които за хората са на практика невъзможни. Така например, изкуственият интелект μZero  на военноморските сили на САЩ вече бе тестван да управлява съвсем реални самолети и да командва сложни радарни системи по време на изпитателни полети. ИИ μZero е проектиран по такъв начин, че да може самостоятелно да използва оръжие.  Тази възможност по подразбиране е изключена, но няма никаква гаранция, че други държави с други програмисти няма да дадат на военния ИИ много повече свобода.

Огромният капацитет на ИИ към автономност и логика създава не само потенциална неяснота, но и  колосална неопределеност. Повечето традиционни военни стратегии и тактики, които се изучават във военните академии, се базират на предположения за съществуването на противник, който обаче е човек и има поведение, съответстващо на човешкия опит и здрав смисъл. Но един ИИ, който управлява самолет в режим на търсене на цел, ще следва някаква своя собствена логика, която е неизвестна за противника, като той не възприема традиционните уловки и сигнали и в същото време действа много по-бързо от човешката мисъл.

Във една война винаги има огромен брой неопределености и случайности, но ИИ ги извежда на едно съвсем ново ниво. Дори самите разработчици на военния ИИ и военните, които използват оръжие, базирано на ИИ, не знаят доколко мощно е станало това оръжие и каква точно ще бъде реакцията на този ИИ в една или друга ситуация. В този случай как може да бъде разработена защита стратегия срещу ИИ, който вижда света по съвсем друг начин в сравнение с човека и дори се обучава и се променя много по-бързо от човека? И ако потенциалният противник обучава своя ИИ в режим на пълна секретност, как може да се разбере кой изпреварва и кой изостава в днешната надпревара във въоръжаването.?

Край на първа част. Във втората част ще се спрем върху машинното обучение във военната сфера, на съвместната работа на човешкия и изкуствения интелект и други.