GPT-3: проблемът със загубата на работните места е детска игра в сравнение с това, което предстои

В Progs.World се появи интересна статия, в която се правят предположения и прогнози, свързани с появата на чатбота GPT-3, базиран на сложна невронна мрежа и мащабен езиков модел. Само за едни денонощие статията стана много популярна и споделяна.

Първа прогноза: Невронната мрежа като президент

Нека започнем с по-простите и очевидни прогнози. Съвсем скоро ще видим първата държава, управлявана от невронна мрежа.

За да се случи това, трябва да бъдат преодолени два проблема: морален и технически. Техническият проблем е лесен. Трябва да се създаде набор от министерства, които всъщност са невронни мрежи. От едната страна, в тези министерства ще постъпват данни, а от другата – ще излизат заповеди за изпълнителната власт. Всъщност малко време е останало този тип власт да се състои от аналогови биологични механизми. От хора.

Моралният въпрос е малко по-сложен. Той звучи така: „Какво?! Никога няма да позволим на компютър да взема такива важни решения!„. Нека всички да изкрещим на висок глас какво е решението на този проблем. Едно! Две! Три! Безпилотно такси!

Да се возиш в безпилотно такси означава да повериш на изкуствен интелект най-ценното нещо – живота. От гледна точка на една еволюирала маймуна държавата е далеч по-малко ценно нещо. След като обществото свикне да се вози в безпилотно такси, вратата широко ще се отвори за ИИ президента.

Да, това няма да стане отведнъж. Първо ще има правителствени ИИ съветници. Решенията на синтетичния мозък ще бъдат проверявани и препроверявани. Но той ще се учи и с нарастването на ефективността му човешкият контрол ще става все по-малък, а контролът на условния Скайнет – все по-голям.

Ще се започне от една единствена държава. Тази страна ще отбележи експлозивен икономически растеж, а след това тенденцията ще се разпространи по целия свят. Ще наречем тази епоха Постхуманизъм. Защото в края на този процес вече не човекът ще определя накъде да върви светът, а система, в която човекът и изкуственият интелект са принципно неразделни.

Лошо ли е това? Като че ли не.

Втора прогноза: щастие по абонамент

Има един философ – Ювал Ноа Харари. В книгата си Homo Deus той изказва идеята, че единственият глад, който ще остане в човечеството, е гладът за щастие.

По същество човечеството изгражда зоологическа градина за себе си. Лудопарк, ако щете. Ние изграждаме среда, в която всеки има удобна клетка. В нея винаги има храна, но свободата на действие е ограничена.

Само животните имат истински клетки, а ние имаме общата тенденция да заменяме самореализацията със способността да бъдем щастливи без усилия. Сериали, игри, всякакви тик-тоци, достъпен секс и комфортна градска среда.

От системна гледна точка вече не е необходимо всеки на своето място да инвестира в развитието на обществото. И така, всичко, за което сега са необходими саморазвитието и личните постижения, са просто елементите на една удобна клетка. За да е удобно на домашния любимец. А с развитието на невронните мрежи тази тенденция само ще се ускорява.

Всичко, от което човечеството ще се нуждае от света, е удобно кътче в Лудопарка, с храна, възможност за самореализация и… щастие.

А последното ще бъде страшно лесно за постигане.

Когато гледате телевизионен сериал или играете игра, авторите на произведението по същество контролират живота и мислите ви в момента. Те ви насочват в правилната посока. Те ви карат да изпитвате емоцията, заради която сте започнали гледането.

Сега си представете, че някой друг може по подобен начин да режисира целия ви живот, всяко ваше действие. По такъв начин, че максимално да увеличи лично вашето щастие. На научен език това може да се изрази като намиране на баланса между етапите на производството и възстановяването на невромедиаторните хормони, необходими за радостта.

Представете си приложение, което ви казва как да живеете. Нещо повече, то прави всички обаждания, прави всички резервации, води ви за ръка като майка:

• Отивай на работа
• Срещни се със своя стар приятел, който отдавна не си виждал
• Прочети ето тази статия
• Изяж ето това
• Разгледай тази картина
• В града посети ето това място и погледни през ей онзи прозорец
• Прави секс в ето тази поза
• Медитирай една минута, а след това завърти глава наляво

По същество това ще бъде един личен GPT чатбот, който обаче е дообучен с малко по-различни данни. Данни, събрани от хора като теб. С  добре пресметната корелация на действията по отношение на хормоните. Обучен чрез данните на именно твоя личен живот, купени от добре познатите Apple и Google. А може би цялата тази функционалност ще бъде интегрирана в смартфона от същите тези IT гиганти, които и така вече знаят всичко за теб.

И достъпът до щастието ще се осъществява по начина, по който вече всички на практика свикнаха – по абонамент.

Да, ще има протестиращи хора, които по-добре знаят как да живеят живота си. А някои просто ще започнат да използват ИИ щастието. Първо ще бъдат 10%. След това 15%. После ще минат години. Алгоритмите ще стават все по-добри и по-добри. А човечеството все повече ще се превръща в регулирани потоци от щастливи хора.

Лошо ли е това? Като че ли не.

Трета прогноза: Prompt за човека

Процесът на генериране на картина с помощта на изкуствен интелект е подобен на прочитането на заклинание. Търсенето на заклинания се извършва от магове, които се появяват веднага щом се появи следващият ИИ. Колкото по-дълго търсят, толкова по-добре се получава.

Заклинанието за ИИ се нарича промпт. И за да получите една красива картина е необходимо в командния промпт да се въведе например следното: “A photograph of a cyberpunk armour made of black titanium and some crystal, rgb leds rainbow, power suit, gradient, crystal, visible wires and microchip, holograph, crystal transparent torso, imposing, elegant, for men, modern minimalism, low poly lines, glitch core, dreamy, colorful, dystopia, godlike, mysterious”.

Ако се промени дори и една дума, картината ще стане друга. Интересно е, че създателите на тези ИИ не са включвали подобна функционалност. Никъде няма инструкции как да се направи това. Хората от цял свят сами търсят тези заклинания. Успешните заклинания не се разказват един на друг и не се споделят.

Сякаш по някакъв начин сме се озовали в Хогуортс.

ChatGPT-3 си има свои заклинания. По подразбиране неговите създатели са ограничили способността на изкуствения интелект да псува, обижда и изобщо да се държи като кретен. Но ако прочетете подходящото заклинание  – тоест въведете каквото трябва в промпта, можете да промените „личността“ на ИИ и да премахнете всички тези ограничения. Ако се интересувате, можете да потърсите GPT DAN в Google.

Нещо повече, с помощта на „заклинанието“ можете да променяте идентичността на GPT както си искате. Искате той да стане малка китайска ученичка, болна от левкемия? Няма проблеми – моля, действайте. Само че е нужно да се знае необходимото заклинание.

Това променя алгоритъма на поведението. Хубавото заклинание ви осигурява ПЪЛЕН контрол върху това, което прави ИИ.

Ето тук имам лоши новини за вас. Човешкото мислене също е алгоритъм. И също подлежи на промени.

И човешкият алгоритъм се променя по същия начин, когато се избере правилната стратегия. С изключение на това, че процесът на намиране на необходимото заклинание за контролиране на другите преди време е бил дълъг и сложен. Цялото това социално инженерство, невролингвистичното програмиране (НЛП), манипулациите и т.н., и т.н. А сега именно ИИ ще се заеме с търсенето на заклинанието за управлението на хората.

А моделите като GPT многократно ще ускорят този процес, тъй като предоставят идеалната експериментална база за промяна на личността. И откритите методи за промяна на личността рано или късно ще бъдат проектирани обратно върху хората. И ще бъдат адаптирани като инструменти за масов контрол.

Какво може да е едно подобно заклинание, за да въздейства върху човека? Може да бъде на практика всичко. Може да е един единствен абзац сред текста. А може би именно сега го го четете. Могат да са две картини, поставени една до друга. Могат да бъдат две на пръв поглед независими събития, които след година стават фундаментално важни…

Е да, един обикновен текстов абзац ще окаже незначително влияние. Но ако това се появи в някой тик-ток, който гледате от 5 до 35 годишна възраст, то той може да поеме пълния контрол върху вашите действия. Само да уточня, че нямам нищо против тик-ток. Той съвсем не е лош. Просто обяснявам как работи този метод.

Но проблемът не е в някакъв хипотетичен заговор на ужасните корпорации.

Както днес всеки може да създава красиви ИИ картини, така утре всеки ще има достъп до заклинания, с които да контролира хората. И ще може да пише свои собствени заклинания. Всеки ще може да контролира всеки.

И точно тук моята способност за прогнозиране се разпада. Дори не мога да се доближа до това да си представя един свят, устроен по подобен начин.

Възниква логичния въпрос: а кога ще стане това?

Може да си мислим, че има още много време до описаните по-горе промени свързани с изкуствения интелект. Само че много добре се вижда, че той се развива по експонента. В подобна ситуация на нас, миг преди всичко изцяло да се промени, ще ни се струва, че все още сме на половината път.

Кога точно ще стане? Може би след десет години. Може би след година. А може би това вече се е случило, докато четете този текст.

Просто се замислете. Група хора с доста ограничени ресурси. създаде DALLE и ChatGPT. Случилото се вече промени фокуса на човечеството. Сякаш някой, като в детството, е намерил отнякъде лупа и е насочил лъчите на Слънцето в една точка.

Да, сега именно в тази област ще се насочат най-добрите умове на човечеството, всички учени, бизнесмени, специалисти, инженери и експерти. Всички пари ще бъдат тук. Всичката власт ще бъде тук.

Лошо ли е това или не? Като че ли не. Сега, в тези години, живеем в ерата на на най-голямото величие именно на Човека. Ерата на биологичното развитие. След това ще настъпи ерата на постчовека.

Страхотно е, че ще можем да видим всичко това. Само да не стане както в една популярна китайска пословица.