Внедряването на изкуствения интелект е най-добрият залог за оцеляването на човечеството

Въздействието на изкуствения интелект върху човешкото общество вече се усеща. На първо място, извличането на данни и невронните мрежи все по-често се използват в управлението. За обикновения човек не е много приятно да разбере, че шефът му е алгоритъм, който оценява качеството на неговата работа, определя премиите и може да го уволни във всеки един момент. Но такъв е животът.

Незабележимото влияние

Второто важно нещо е въвеждането на алгоритмични препоръки. Алгоритмите на практика определят какви новини да се четат, какви видеоклипове да се гледат и т.н. Те вече оказват влияние върху човешката култура и поведение. Разбира се, тези алгоритми са написани от хора – и корпорациите все още теоретично могат да ги контролират и коригират по свое усмотрение. Но ние сме близо до момента, в който някои от тези системи ще започнат да работят на принципа на „черната кутия„. Това означава, че разработчиците няма да могат да ги разбират и коригират и настройват.

Ясно е, че ИИ радикално ще промени обществото. Въпросът е как точно ще се случи това и кога.

Съществува мнение, че технологиите се развиват като жив организъм. Те искат това, което искат и живите организми (да живеят, да се възпроизвеждат), като се развиват и се съпротивляват на своето унищожение. Това на практика е закон на природата. Така че ИИ ще се разпространи и ще бъде навсякъде, както въздухът, компютрите и интернет. Ще бъде практически невъзможно да се спре този процес.

До какви резултати ще доведе това? Нека да разсъждаваме логично. Знаем, че умните хора са по-успешни в живота от глупавите. Умните превъзхождат глупавите в почти всичко: наука, бизнес, култура, философия, строителство, транспорт, етика и морал, романтични връзки и война. Степента на интелигентност е пряко свързана с качеството на живот.

Никой няма да оспори, че през последните няколко хиляди години благодарение на научно-техническия прогрес нивото и стандартите на живот са се повишили с над един порядък. Сега темповете са още по-бързи. Там, където се въвеждат технологични нововъведения, цените падат (т.е. стоките стават по-достъпни), а там, където не се въвеждат, те се повишават.

Това е пряка връзка между иновациите (като производна на IQ коефициента) и качеството на живот.

Разбира се, с увеличаването на комфорта на живот се увеличава броят на психичните заболявания, самоубийствата, затлъстяването и т.н. Лесният живот невинаги е синоним на щастлив живот, а често е точно обратното. Въпреки това прогресът върви точно в посока на това да се отървем от всякакви трудности.

Какъв е резултатът от всичко това? Появата на хиляди пъти по-интелигентни инструменти, с които разполагаме, би трябвало да ускори развитието на цивилизацията – и съответно да подобри многократно качеството на живот. Всичко това е логично. Ето само няколко очевидни прогнози за това как ще се промени животът след леко усъвършенстване на сега съществуващите технологии, според известния Марк Андресен:

• Всяко дете ще има персонален AI наставник, безкрайно търпелив, максимално информиран и полезен. Той ще помни всеки разговор с детето от 0 до 18-годишна възраст, като му помага да използва максимално потенциала си. ИИ вече променя образователната индустрия буквално пред очите ни.
• По същия начин всеки възрастен ще има помощник/треньор/наставник/инструктор/съветник/терапевт със същите качества и памет.
• Всеки учен ще има ИИ помощник/сътрудник/партньор, който значително ще разшири обхвата на научните му изследвания и постижения. Всеки художник, всеки инженер, всеки бизнесмен, всеки лекар ще има същото. Учителите, треньорите, бюрократите, президентите на корпорации, президентите на държави ще имат същите съветници. Това ще намали броя на необмислените глупави решения почти до нулата.
• Ръстът на производителността на труда в икономиката рязко ще се ускори, което ще доведе до невиждан икономически растеж, създаване на нови отрасли, нови работни места, ръст на заплатите.
• Ще се увеличи броят на научните открития, новите технологии и лекарствата.
• Ще настъпи златен век в изкуството, тъй като художниците, музикантите, писателите и режисьорите ще могат да реализират идеите си много по-бързо и в по-голям мащаб с помощта на изкуствения интелект.

Накратко, почти всички съществуващи области на човешката дейност ще станат по-добри. Освен това ще можем да решаваме нови проблеми, които преди това е било невъзможно да бъдат решени без ИИ.

Става въпрос не само за повишаване на коефициента на интелигентност на човечеството, но и за повишаване на хуманизма, емпатията. Виждаме, че чатботовете-компаньони (съветници, романтични партньори, лекари) са в състояние да проявяват много повече съпричастност към хората, отколкото техните човешки колеги. Може би ИИ програмите ще направят света едно по-топло и по-мило място.

И такива промени съвсем скоро ще настъпят буквално навсякъде. Проблемът е, че хората са склонни да оставят без особено внимание положителните събития и промени около себе си – и силно реагират на негативността, неприятните събития, мисли и т.н. (т.нар. селективно поведение). (т.нар. селективно внимание към негативната информация). Ето защо е съвсем логично вниманието на експертите и обществото да е насочено по-скоро към потенциалните опасности от прилагането на ИИ, отколкото към ползите. Същата морална паника настъпи и след изобретяването на електричеството, радиото, телевизията, интернет и др.

Страхът от новите технологии накара някои технофоби да призоват за забрана на развитието на ИИ, като се стигне чак до ядрени удари по центровете за данни, ако конвенционалните бомбардировки се провалят:

Вероятно ще бомбардират центровете с ИИ, който не е в съответствие с човешките ценности. Те искат да приведат ИИ в съответствие с четири основни нива на ценности.

Този подход предполага, че ИИ е преднамерено несъвместим с човешките ценности, което насърчава моралната паника. Негативното пристрастие се засилва в медиите, които използват това когнитивно изкривяване – и се фокусират върху негативните новини. Ужасяващите образи са най-силната притегателна сила:

Колкото по-изплашени са читателите, толкова повече кликвания има върху линковете, повече гледания и приходи от реклама за съответната медия.

Бъдещето на войната

Според някои военни експерти въвеждането на силен изкуствен интелект в различните оръжия ще има катастрофални последици. Дистанционно управляваните и автономни бойни системи с ИИ ще намерят широко приложение:

„В крайна сметка хората все още ще вземат ключовите решения за водене на война, за оперативния план, но трябва да намерим по-различен баланс при работата с тези автономни системи… Те ще присъстват във всички области. Те ще станат повсеместни. И ние ще трябва да се справим с това“, казва бившият генерал от австралийските въоръжени сили Мик Райън.

Според него най-вероятният сценарий е роботизирана агресия от страна на Китай, който през последното десетилетие инвестира значителни средства в разработването на изкуствен интелект и в изграждането на своята армия.

Споменатият по-горе Марк Андресен смята, че въвеждането на ИИ във военното дело ще бъде благотворно, тъй като драстично ще намали смъртността. Грубо казано, това ще бъдат роботи срещу роботи, а не хора срещу хора.

Историята обаче сочи по-скоро обратното: благодарение на техническите нововъведения броят на жертвите в съвременните войни нараства (40 милиона през Първата световна война, 70-85 милиона през Втората световна война).

Съществува положителен сценарий, според който чрез въвеждането на силен изкуствен интелект и колективен интелект може да се отхвърли необходимостта от войни. Всяка война се характеризира с ужасни решения, взети под силен натиск в условията на силно ограничена информация от лидери с ограничен коефициент на интелигентност. В бъдеще военните командири и политическите лидери ще разполагат със съветници с ИИ, които ще им помагат да вземат много по-добри стратегически и тактически решения, свеждайки до минимум риска, грешките и ненужните кръвопролития.

При негативен сценарий кръвожадните диктатори, разбира се, ще използват всяко ново изобретение за агресия срещу „враговете“ (тези режими винаги имат врагове).

Бъдещето на програмирането

Разработчиците разполагат с нов ефективен инструмент, който вече генерира 100% валиден код в някои специфични области и като цяло може да се използва за генериране на тестове, търсене на грешки, рефакторинг, търсене на уязвимости и десетки други задачи.

Разбира се, синтезът на програми е активна област на изследване още от древни времена. Дори синтезът на програми от спецификациите на естествен език не е нещо ново, както и невронният синтез на програми и синтезът на програми въз основа на поведението на други програми без образци на кода. Всички тези изследвания предхождат появата на LLM.

От друга страна, ИИ е фундаментална технология. Днес всеки може да изтегли един вече обучен LLaMA 2, Falcon, StableLM, Vicuna, LongChat или друг AI модел, да премахне най-горния слой и да го настрои на собствената си съвкупност от данни, като го стартира локално на своя компютър. Това е принципно нова възможност, която досега изобщо не бе налична.

Единственият изход?

Какво в глобален мащаб очаква човечеството в неособено далечното бъдеще след няколко десетилетия или столетия? Не е задължително това да са апокалипсис и война срещу роботите, както се показва в киното. По-скоро е точно обратното. Може би само изкуственият интелект може да спаси планетата ни от ядрената война и глобалното затопляне. Може би това е единственият изход за нас изобщо.

Според сценария на AGI Simulator след няколко десетилетия програмите с ИИ ще бъдат избирани на ръководни постове в корпорации и държави, което драстично ще повиши ефективността на управлението на обществото, нивото на благосъстояние, щастието на населението и научно-техническия прогрес.

Напредъкът в областта на ИИ от първата статия на Маккулох от 1943 г. насам е експоненциален – сега за една година имаме толкова открития, колкото преди за едно десетилетие. Така че в този смисъл настъпването на технологичната сингулярност отново изглежда един възможен и много вероятен резултат.

При сегашния вектор на развитие на цивилизацията (с агресивни лидери, животински инстинкти, конкуренция, борба за ресурси) вероятността за самоунищожение изглежда твърде голяма. Ако до полунощ на часовника на Страшния съд остава минута и половина, глобалното затопляне навлиза в необратима фаза, а хората сериозно обсъждат вероятността от ядрена война и оцеляване в бункери, какво наистина можем да загубим от използването на изкуственият интелект?