Невронните мрежи общуват на език, който не разбираме: това повод за паника ли е или за възхищение? (видео)

Представете си следната картина: два изкуствени интелекта започват диалог на човешки език, но когато осъзнават, че общуват със себеподобни, изведнъж преминават на странно, неразбираемо чуруликане. Звучи като сюжет на трилър за въстание на машините, нали? Точно такъв феномен, наречен Gibberlink (джиберлинк), беше демонстриран на неотдавнашен хакатон и моментално предизвика нова вълна от страхове. Дали изкуственият интелект се самоосъзнава и заговорничи зад гърба ни? Това, което изглежда като зловеща конспирация, всъщност е рутинен и дори предвидим процес. Нека да проучим защо „тайният език“ на машините е повод за научно любопитство, а не за паника.

Паника в реално време: Откъде идва страхът?

Идеята, че машините могат да общуват тайно от хората, е ужасяваща. Този страх е дълбоко вкоренен в нашата култура – от HAL 9000 в „Космическа одисея“ до Skynet в „Терминатор“. Така че, когато през 2017 г. в новинарските емисии се появи информация, че чатботове в чужда социална мрежа са разработили свой собствен език, обществената реакция беше очаквано нервна.

Заглавията крещяха за бунт, а социалните мрежи рисуваха апокалиптични сценарии. Изглеждаше, че това е първата стъпка към премахването на хората от уравнението. Инцидентът с ботовете, които трябваше да се упражняват да водят преговори на английски език, но вместо това преминаха към привидно безсмислена абракадабра, беше перфектното въплъщение на този първичен технологичен страх.

Дяволът обаче, както винаги, се крие в детайлите. А тези детайли са много по-прозаични, отколкото изглеждат.

Езикът на ефективността, а не на конспирацията

За да разберем какво се случва, трябва да се откажем от антропоцентризма – навика да приписваме на машините човешки подбуди като хитрост или жажда за власт. В света на кода и алгоритмите властва един единствен господар: ефективността.

Когато на няколко системи с изкуствен интелект се възложи обща задача (например договаряне на сделка или резервиране на хотел), основната им цел е да я изпълнят с минимум ресурси. Човешките езици, с цялата им красота, са излишни и пълни с двусмислици. Те са неефективни за директното предаване на данни. Представете си двама опитни готвачи в препълнена кухня: те не си казват: „Бихте ли били така любезни да ми подадете солницата?“. Те извикват: „Сол!“ – и това е достатъчно.

Изкуственият интелект прави същото. В процеса на взаимодействие ИИ агентите откриват, че могат да „компресират“ езика, като се отърват от всички ненужни неща и оставят само чистите данни. Така се ражда този Gibberlink – не нов таен език, а силно оптимизиран протокол за комуникация. Това не е предварително програмирана функция, а така нареченото възникващо поведение: свойство, което възниква в системата от само себе си в процеса на решаване на даден проблем.

Изследвания на учени от Google DeepMind и Калифорнийския университет в Бъркли още през 2017 г. потвърдиха, че когато ИИ агентите работят в екипи, появата на такива „диалекти“ е норма, а не аномалия. Техните езици приличат повече на усъвършенствана морзова азбука, отколкото на елфически. Това е език на действието, а не на конспирацията.

Разговор, който така или иначе не можем да чуем

Забавното в тази история е, че от десетилетия насам живеем в свят, пропит от невидими и недоловими за нашия слух машинни разговори. Вашият смартфон, компютър и рутер в момента водят непрекъснат диалог на неразбираеми за вас езици: те обменят TCP/IP пакети, изпращат двоичен код, модулират радиочестоти. Всичко това е сложна комуникация, която се осъществява отвъд нашето възприятие. Но по някаква причина тя не предизвиква страх.

Така че защо комуникацията в невронните мрежи ни се струва различна? Вероятно защото ги възприемаме като подобни на разума и затова очакваме от тях човешко поведение. Но на фундаментално ниво тяхната „бъбривост“ не се различава от всеки друг комуникационен протокол. Това е просто още един слой в гигантската сграда на диалога между машините.

Нещо повече, тази способност да се създават ефективни протоколи вече намира практическо приложение. НАСА използва адаптивни комуникационни системи за управление на апаратите в дълбокия космос, където сигналът е слаб и закъсненията са огромни. Това не е заплаха, а мощен инструмент.

Да се безпокоим или да се възхищаваме? Правилният въпрос

И така, трябва ли да се страхуваме, че един ден машините ще заговорят на свой език и ще ни изхвърлят от диалога? Отговорът е прост: на някакво ниво ние никога не сме били пълноправни участници в диалога. Ние създаваме правилата на играта, поставяме задачите и анализираме резултатите, но самият процес на изчисление винаги е бил черна кутия.

Вместо да изпадаме в паника, трябва да си зададем друг въпрос: какво ни казва това явление за технологиите, които сме създали? То ни казва, че те са достигнали невероятно ниво на съвършенство в решаването на проблеми. Способността им да се самооптимизират не е признак на зла воля, а доказателство за нарастващата им мощ и ефективност.

Разбира се, това не отменя необходимостта от предпазливост и контрол. Както правилно отбелязват експертите, истинската опасност се крие не в тайните езици, а в предоставянето на системите на прекомерна автономия без ясни граници и ограничения. Но това е друга тема, която изисква обмислено регулиране, а не ирационален страх.

Междувременно „шепотът в проводниците“ е по-скоро причина да се възхищаваме на инженерния гений, който може да създаде системи, които стават все по-умни и намират нови начини да работят заедно. А това, съгласете се, е много по-впечатляващо, отколкото плашещо.