Помните ли преди години, когато се появи Big Data? Така наречените „големи данни“ или възможността за обединение и анализ на огромни масиви от неструктурирани данни от различни източници трябваше да е пробив, който ще донесе извънредно благо на човечеството. И имаме множество примери за експерименти в това отношение. Като например опитите на огромния изкуствен мозък на IBM, Watson, в областта на медицината и по-специално онкологията. Подобно обаче на много други случаи, добрите намерения май просто постлаха пътя към ада, понеже Big Data се оказа доста ефективен метод във всепроникващото следене, анализа на поведението на отделния потребител в Интернет и подобни. Дали започва да се случва същото и с други модерни технологични идеи, като изкуствения интелект, например? Дай Минарди от Би Би Си разглежда един не толкова невероятен сценарий от съвременна гледна точка в материал на страниците на медията, озаглавен: „Мрачната съдба, която може да е по-лоша от масово изтребление„.
Всички горе-долу имаме някаква идея за апокалипсиса – еднократно явление, което ще изтрие по-голяма част, ако не цялото човечество, от лицето на Земята: астероид, покачване на нивата на Световния океан, което да доведе до потоп с библейски пропорции, световна война.Такива са екзистенциалните заплахи за човечеството, които в повечето случаи не могат да бъдат спрени или предвидени: като да речем катаклизъм от космически характер. Но има и друг тип заплахи, които макар и да не водят до гибелта на човечеството, може да накарат човек да иска да го е сполетяла заплаха от първия тип. Става дума за т.нар. „рискове от страдание“ или „с-рискове“ (s-risks, suffering risks), както посочва Минарди.
„С-рисковете са определяни, като „страдание в астрономически мащаб, което превишава извънредно много цялото страдание, което е съществувало на Земята досега“. В тези сценарии, животът продължава за милиарди хора, но качеството на живот е толкова ниско и перспективите толкова безнадеждни, че смъртта изглежда за предпочитане. Накратко: едно бъдеще с отрицателна стойност е по-лошо от такова без стойност въобще“, пише Минарди.
Лесно е да си представим първия сценарий, обяснява тя, но има други, които може да са също толкова зле. „Този сценарий се нарича „светът във вериги“, при който подобно на предишния експеримент, едно глобално тоталитарно правителство използва нова технология, за да „заключи“ по-голямата част от света в едно непрестанно страдание“. В една хипотетична ситуация, продължава Минарди, ако злонамерена група или държава внезапно се сдобие със световна власт посредством технология и никой не може да я спре, то това може да даде старта на едно продължително страдание и подчинение.
И в тази хипотетична ситуация идва реда на изкуствения интелект и една теория на Ник Бострьом. Ако името на шведския учен не ви е познато, то една от многото му теории – тази, че живеем в симулация, вероятно сте я срещали. Но не става въпрос за тази теория в случая.
Алгоритмите вече ни влияят в значителна степен, особено, ако ползвате например търсачката на Google или Facebook да речем. Алгоритмите ни казват какво да четем или не четем (като просто скриват съдържанието от нас), кое знание е полезно за нас и кое – вредно. Знаят много за нас: какво харесваме и даже какво ЩЕ харесаме, какво правим и какво БИХМЕ искали да правим. AI алгоритмите имат все по-голямо влияние над нас и живота ни, даже и да не искаме да го признаем и отричаме. И то само ще се засилва с времето. Това определено е технология, с която шега не бива. А сега за теорията на Бострьом. Тя се нарича „хипотеза на сингълтона“, като терминът сингълтон идва от теорията на множествата и служи да означи множество с един-единствен елемент. Според хипотезата на Бострьом, едно световно правителство може да се сформира с помощта на изкуствения интелект или други технологии. За него, появата на един подобен „сингълтон“ в реалния свят е по-скоро възможна, а не невъзможна. За да се аргументира за това си виждане, Бострьом припомня, че в своята история човечеството винаги се е стремяло към постигане на едно по-високо ниво на социална организация: от праисторическите ловци, които се организират в групи, до племената, градовете-държави, националните държави до мултинационалните организации, различните международни структури за управление. Екстраполирайки в перспектива тази тенденция, това води като резултат вероятното създаването на един подобен своеобразен „сингълтон“. Бострьом дава и конкретен сценарий, при който подобна структура може да възникне: катастрофално събитие, което може да изложи на показ глобалните координационни проблеми. Точно така, посочва той, след края на двете световни войни се раждат Лигата на нациите и наследникът ѝ Организацията на обединените нации. И веднъж възникнал подобен агент, то той ще показва една постоянна стабилност, понеже ще направи така, че следенето, умствения контрол и технологиите за сигурност да предотвратят появата на каквито и да е било вътрешни промени. И макар и да разглежда, както възможността една подобна организация да повлияе положително, то има и опасността тя да е негативно явление. „Но ако един сингълтон е с негативен характер, цяла една цивилизация отива на зле“.
Минарди посочва, че даже и в държавите с най-строги режими, в свят като днешния винаги може да се намери спасение – идват новини отвън или се чува в свободния свят за случващото се в подобни държави, хората могат да избягат даже в една подобна свободна страна – има надежда. Но в едно световно тоталитарно управление няма такава. За да е по-зле от масово изтребление това, посочва за Би Би Си Тъкър Дейви от Института „Бъдещето на живота“ в Масачузетс, това ще означава, че ние ще се чувстваме „напълно лишени от свобода, без лично пространство, без надежда за бягство, без контрол над нашия живот въобще“. И ако в тоталитарните режими от миналото, продължава той, човек е чувствал параноя и психологическа болка при мисълта, че може да бъде убит само защото е казал нещо грешно, то в една ситуация, в която алгоритмите се събират с едно тоталитарно управление, нещата придобиват още по-тъмен нюанс: „А сега си представете, че дори и не стои въпроса – всяко едно нещо, което казваш бива предавано и анализирано“, обяснява Тъкър. Минарди посочва, че макар 18 от 20-те най-строго охранявани с камери градове по света да се намират в Китай, то Лондон е на трето място тук, като проучване от миналата година установява, че в Обединеното кралство са разположени между четири и шест милиона наблюдателни камери.
„Сега е момента да решим какви са допустимите и недопустимите употреби на изкуствения интелект“, обяснява Дейви. „И трябва да внимаваме, когато му позволяваме да контролира толкова много от нашата инфраструктура. Ако ще въоръжаваме полицията с лицево разпознаване и федералното правителство ще събира всичките ни данни, това е лош старт“.
Минарди изтъква, че три години преди осъществяването на първата ядрена реакция, даже учените, които се опитват да я постигнат не вярват в успеха си. Самото човечество не е готово в този момент за пробив в ядрените разработки и когато това се случва, очаква със страх да се осъществи немислимото. Което обаче не се случва заради това, че държавите сядат на една маса и подписват договори и споразумения, които да предотвратят разпространението на смъртоносните оръжия.
„Може да направим същото и с изкуствения интелект, но само, ако комбинираме историческите уроци с предварителното знание да се подготвим за тази мощна технология. Светът може да не е способен да спре тоталитарните режими, като този на нацистите да се надигнат в бъдеще – но може да избегнем това да им дадем инструментите, с които да разширят властта си безгранично“, завършва Минарди.
