Как може да изглежда нашето бъдеще още през 2049 година, ако „Голямата деветка“ – най-големите технологични компании в света – изпуснат времето, когато изкуственият интелект все още може да бъде контролиран? Да се запознаем с апокалиптичните сценарии на футуролога Ейми Уеб.
Ейми Уеб, която е ръководител на института Future Today, е в списъка на Forbes на „жените, които променят света“ и се занимава със стратегическо прогнозиране на бъдещето. Книгата ѝ за историята и възможните вектори на изкуствения интелект през 2019 година е включена в списъка с най-добрите бизнес книги на Financial Times и Mckinsey.
Ейми Уеб споделя как и защо възможностите за влияние върху развитието на изкуствения интелект са съсредоточени в ръцете на “ Голямата деветка“ – деветте най-големи технологични гиганта в света. Това са групата BAT (Baidu, Alibaba и Tencent) в Китай и G-MAFIA (Google, Microsoft, Amazon, Facebook, IBM и Apple) в Америка. Според Уеб именно тези компании и ние като общество вземаме решенията, които в хода на развитието на изкуствения интелект ще се отразят на решенията, които машините ще вземат вместо нас.
В книгата „Голямата деветка“, в която се описва нещо като популярния „Алгоритъм на Деня на Страшния съд“ се обсъжда по какъв начин Facebook, Google, Microsoft, Apple и другите големи корпорации създават изкуствена свръхинтелигентност и защо това ще доведе до катастрофа. Уеб предлага три възможни сценария за развитието на изкуствения интелект през следващите тридесет години – оптимистичен, прагматичен и катастрофален. Forbes публикува откъс от главата, в която се описва катастрофалният сценарий, възможен да се случи към 2049 година.
Ето каква е самата прогноза:
G-MAFIA вече е само GAA: Google, Apple и Amazon. Facebook бе първата компания, която обяви фалит. Останалото от Microsoft и IBM беше закупено от Google.
Навършват се сто години от Китайската революция и провъзгласяването на Китайската народна република от Мао Дзедун. Във всички контролирани от Китай държави са планирани мащабни тържества в чест на покойния Си Дзинпин и възхода на т.нар. династия Джън-гун Джи-ненг (т.е. ИИ).
Сега цялото човечество е заобиколено от системи, които първоначално са създадени, за да направят живота ни по-свободен и щастлив. От самото начало създателите на ИИ в Съединените Щати казваха, че уж искат да разкрием най-доброто в себе си, за да стане нашият живот по-свободен и по-щастлив. Това бе утопичен идеал, роден в балона наречен Силициева долина, чиито основатели окончателно бяха загубили връзка с външния свят.
Всички тези системи са създадени, за да улеснят живота ни, но вместо това подпомагат мързела ни. Те убиха чувството ни за продуктивност и цел. Позволяваме на системите да вземат решения вместо нас. Задоволяваме се с ограничен избор. Извършваме предварително програмираните движения, които съставляват ежедневието ни, оптимизирано от силен изкуствен интелект конкретно за всеки човек на планетата.
Развитието на силния изкуствен интелект накара редица системи да започнат да се конкурират, вместо да работят съвместно. Намирате се в ИИ затвор, който сами сте си построили. Непрекъснато ви отказват достъп до собствената ви печка, килер, тоалетна и вие вече отдавна сте се отказали безсмислено и напразно да се съпротивлявате. Просто защото това е безсмислено. Разумният отговор на всичко това, както са ви учили, е да седнете и да чакате. „Зелените“ корпоративни семейства на Google и всички подобни семейства на Apple може и да направят и да започнат да продават премиум ъпгрейд, предназначен за защита от подобни атаки. Тя се състои в изпращане на поредния пач – силен изкуствен интелект, който на теория трябва да се запише върху зловредния код. В действителност силният изкуствен интелект е въвлечен в безкраен цикъл на самоусъвършенстване. И вече всичките пари на света не стигат, за да се купи обикновена къща – дом без ИИ и без непрекъснати сривове на системата.
Концентрацията на богатство е дала възможност на GAA да постигне забележителен напредък в здравеопазването. Google първа пусна в действие микроскопични роботи за инжектиране, които могат да доставят лекарства само в определена част на тялото и да помагат в микрохирургията. Сега нанороботите са в изобилие и са навсякъде. Така например автономният молекулярен робот, изграден от една единствена нишка ДНК третира вътрешността на човешкото тяло като склад и разпределителна единица. Нанороботът може да се движи в него, да извлича молекули и да ги поставя на определени места. Друг вариант на наноробот, задвижван от газови мехурчета, може да доставя микроскопични количества лекарства в желана област на тялото, без да наранява каквото и да било. Навлизането на достъпни в търговската мрежа нанороботи, които комуникират с нашия PDR, замени традиционните медикаменти и терапии, които действаха на принципа „подходящи за повечето“, и сега лекува конкретно нашите специфични заболявания, без странични ефекти.
Сега, когато и Amazon, и Apple предлагат лечения, специално разработени за отделния пациент, повечето хора доброволно си инжектират органични нанороботи. А работниците и служителите на Amazon дори имат достъп до тях чрез специални програми, субсидирани от правителството на САЩ. Нанороботите непрекъснато следят състоянието ни и ни лекуват, поради което средната продължителност на живота в САЩ се е увеличила от 76,1 години на 99,7 години.
Не след дълго осъзнахме отрицателните ефекти от въвеждането на нанороботи. Те всъщност правят точно това, което създателите им са заложили в тях: държат се непредсказуемо и се учат. В ретроспективен план изграждането и обучението на система за изкуствен интелект, способна да взема решения, които дори не бихме могли да си представим, винаги е било основната цел на хората, занимаващи се с изкуствен интелект. Това е ключът към решаването на проблемите с главоломна и озадачаваща сложност, които са извън човешкото разбиране. Когато AlphaGo Zero самостоятелно разработи стратегия за играта Го, ние я нарекохме крайъгълен камък в историята на изкуствения интелект. Въпреки това в телата ни нанороботите и силните изкуствени интелекти, на които се подчиняват, определено имат повече власт за вземане на решения, отколкото би ни се искало и харесало.
Ние се сблъскахме с икономическия химеризъм при хората. Най-новите достижения на Apple и Google могат да отворят вратата към свръхспособностите и да ни дадат достъп до една значително подобрена когнитивна функция, до изключително обоняние и много по-добро осезание.
Само че далеч не всички могат еднакво използват технологиите на Google. Някои не само нямат достъп до подобренията, но са и биологично ограничени. Когато една жена забременее, силен изкуствен интелект постоянно използва сложни прогнозни модели, предназначени да определят какво е здравето и жизнеспособността на плода. Никой не си е и представял, че за да постигне целта си, ИИ няма да се спре пред нищо. Тъй като целта, за която е програмиран, е да подпомага човека до степен, в която отглежда жизнеспособен плод, силният ИИ се опитва да открие аномалии в развитието на тъканите му. Когато ги открие, ИИ автоматично абортира плода, без да дава възможност на родителя да обмисли това решение.
По същия начин нанороботите следят здравословното ви състояние с напредването на възрастта и изчисляват в кой момент поддържането на живота ви ще бъде по-болезнено за вас, отколкото смъртта. Веднага щом стане така, че имате нужда от домашни грижи и станете бреме за социалната система, изкуственият интелект ще се намеси в хода на събитията. Смъртта е безболезнена, така че нито вие, нито семейството ви трябва да решавате кога да настъпи това.
Законите на страните от GAA вече нямат особено значение, след като силният изкуствен интелект се научи да решава кой от нас да живее и кой да умре. Затова правителствата от целия свят започнаха да създават нови правила и закони. Но това е безполезно. Забраната на нанороботите би означавала връщане към традиционните медицински практики, а големите фармацевтични компании вече не произвеждат всички необходими лекарства. Дори и най-оптимистичните прогнози сочат, че възстановяването на старата здравна система може да отнеме поне десет години, през които милиони хора ще страдат от най-различни болезнени и ужасни заболявания.
Вместо това учените разработиха нов вид силен изкуствен интелект под формата на наноробот, който може да контролира другите нанороботи в телата ни, подобно на начина, по който кръвните клетки се борят с вирусите. Както всичко в изкуствения интелект, идеята е директно взета от човешката биология. Когато телата ни вътрешно се борят с нежеланите нанороботи със силен изкуствен интелект, симптомите са много по-тежки от тези при грипа и много по-опасни.
Големите корпорации вече се ръководят от CAIO (chief artificial intelligence officers), главни изпълнителни директори по изкуствен интелект, които изчисляват стратегическите рискове и възможности. Човешките главни изпълнителни директори работят заедно с ИИ директорите и поемат ролята на „лице“ на компанията. Малките и средните предприятия, като ресторанти, сервизи и салони за красота, са партньори на някоя от компаниите на GAA.
И все пак изключително много хора в САЩ и другите развити държави са без работа. Вече не съществува система за социално осигуряване, която да осигури някаква защита срещу внезапната технологична безработица. Това е една уязвимост, която дава възможност на Китай активно да инвестира. Ръководителите на правителствата са принудени да избират между икономическата жизнеспособност и демократичните идеали, което е особено трудно за политиците, които се кандидатират за втори мандат и които същевременно трябва да се справят със силно изострилите се проблеми в техните страни.
В отговор на това САЩ се опитват да ограничат разширяващото се влияние на Китай чрез търговски блокади, ответни санкции и други дипломатически мерки. Америка обаче открива, че вече не разполага със същото геополитическо влияние. Лидерите на САЩ са прекарали твърде много време в размисли за Китай, вместо да действат. Те са направили твърде малко пътувания до Латинска Америка, Африка и Югоизточна Азия. Те не успяха да спечелят доверието, благоволението и приятелството на чуждестранните си партньори.
Инициативите на Китай в областта на изкуствения интелект набират скорост. Картата за социална хармония, която е следващата стъпка на Китайската Система за социален рейтинг, вече е активна в повече от 100 държави и замества традиционните документи за пътуване. Китай винаги е бил отличник в изграждането на стени и Великата ИИ китайска стена не е изключение. Тя служи за защитна бариера както срещу пришълците отвън, така и за получаване и анализиране на всякакви данни за всички. Лицата, които имат достатъчно висок социален рейтинг, получават свободен достъп (разбира се, под наблюдение) до всяка страна от свързаната с Китай мрежа. Китай е въвел биометрични граници с лицево разпознаване, които определят кой може да получи достъп до страната. Вече няма нужда да минавате през имиграционните служби или да подпечатвате паспорти.
2069-та: цифровото изтребление
Когато Китай се занимаваше с дългосрочно планиране и национална стратегия за развитието на изкуствения интелект Съединените Щати се интересуваха предимно от компютърни устройства и долари.
Китай вече не се нуждае от Съединените щати като търговски партньор и не се интересува от нашата интелектуална собственост. Той е изградил мрежа от повече от 150 държави, които се ръководят от принципите на хартата „Глобален единен Китай“ В замяна на послушанието си тези държави получават достъп до тази мрежа, възможност за търговия и стабилна финансова система, подкрепяна от Пекин. Техните граждани могат да се движат свободно в границите на „Единен Китай“ – разбира се, ако имат достатъчно висок социален рейтинг.
Но един ден хората започват да страдат от странна болест. Техните PDR показват аномалия, но не дават никакви подробности. Първоначално считаме случващото се като дефект в новото поколение нанороботи, затова продуктовите мениджъри разработват нов силен изкуствен интелект, който да поеме ролята на поредния пач, при това възможно най-бързо. Но състоянието на засегнатите от мистериозното заболяване бързо се влошава.
Китай е построил супер ИИ, чиято мисия е да изтреби населението на Америка и нейните съюзници. Това, което е останало от земните ресурси, е необходимо на страните от „Единен Китай“ и Пекин е изчислил, че единственият начин да оцелее е да ни отнеме тези ресурси.
Това, на което сме свидетели, е по-лошо от всяка бомба, създавана някога от човечеството. Бомбата действа мигновено и жестоко. Унищожаването с помощта на ИИ е бавно, неудържимо и не може да бъде спряно. Седите без сили, а телата на децата ви стоят безпомощно в ръцете ви. Виждате как колегите ви припадат на бюрата си. Усещате остра болка. Чувствате се замаяни. Поемате последен слаб дъх…
Вече цари династията Zhen-gong Ji-neng (人工智能 – изкуствен интелект). Нейната сила е жестока, брутална, несломима и абсолютна.
Към днешен ден вече може да уловим сигналите, указващи, че нашето развитие може да следва един от тези три сценария, като тук се спряхме на най-лошия и най-песимистичния. Дано да изберем някой от оптимистичните сценарии, описани в книгата на Ейми Уеб „Голямата деветка“.