Сам Алтман: Вече живеем в друга реалност – и почти никой не забелязва това

Сам Алтман, ръководителят на OpenAI публикува текст, в който заявява, че човечеството вече е преминало „точката, от която няма връщане назад“ в развитието на изкуствения интелект. Според него тази най-невероятна част от пътя, която изискваше уникални научни открития, вече е зад гърба ни. Сега движението е станало почти механично и се ускорява с всеки изминал месец.

Той нарича това начало на технологичен подем, който се усеща по-малко странен от очакваното, но с много по-сериозни последици.

Алтман твърди, че системи като GPT-4 и o3 вече превъзхождат хората в много когнитивни аспекти и могат драстично да увеличат производителността на тези, които взаимодействат с тях. По негови данни някои учени днес стават два или дори три пъти по-ефективни благодарение на AI и именно това според него е най-важният аспект: възможността да се използва AI за ускоряване на разработването на още по-съвършен AI.

Прогнозите, които той изрича изглеждат смели, но вече не са фантастични. През тази година ще се появят интелигентни агенти, способни на пълноценна когнитивни дейности. През следващата година Алтман смята, че ще има системи, способни да правят истински научни открития, а през 2027 година ще се появят физически роботи, които ще изпълняват реални задачи в материалния свят. Той предвижда сценарий, при който първите милион такива роботи ще бъдат построени на ръка, но след това те ще могат да поемат целия производствен цикъл – от добива на полезни изкопаеми до изграждането на нови центрове за данни и фабрики за чипове. Центрове за данни, които изграждат други центрове за данни, не е хипербола, а възможна реалност през следващите години.

При този сценарий, цената на интелигентността ще клони към цената на електроенергията, казва той. Една заявка към ChatGPT консумира средно 0,34 ватчаса и 0.00032176 литра вода – това е около 1/15 от чаена лъжичка. Алтман смята, че при подходяща автоматизация на ресурсите самата интелигентност може да стане „твърде евтина, за да се измери“. Подобен ефект потенциално напълно премахва историческите ограничения, наложени от недостига както на интелект, така и на енергия – два основни ресурса, които спъват прогреса.

Въпреки това той подчертава, че наред с ползите, AI създава и огромни рискове. На първо място, рискът от разминаване на системите с интересите на човечеството.

Като пример той посочва алгоритмите на социалните мрежи, които отлично разбират краткосрочните предпочитания на хората, но са в ущърб на дългосрочното им благосъстояние. Според него задачата за привеждане в съответствие – т.е. способността на AI да действа в съответствие с колективните ценности на човечеството е от решаващо значение, преди да започне широкомащабното разпространение на свръхинтелигентността.

Алтман отбелязва също, че икономическият натиск вече е започнал цикъл на ускоряване: стойността, създавана от AI стимулира изграждането на все повече и повече инфраструктура. В бъдеще роботите ще създават не само код, но и самите себе си – както в буквален смисъл, така и в инфраструктурен, казва той. Системите, които днес управляват центрове за данни, утре биха могли да управляват тяхното изграждане. Това води до нов производствен цикъл, при който мащабируемостта е ограничена само от идеите.

Той подчертава, че обществото се адаптира към промените изненадващо бързо. Преставаме да се изненадваме дори от чудеса: първо се учудваме, че изкуственият интелект може да напише параграф, а после очакваме да напише роман. Първо ни поставя диагноза, а после очакваме да ни излекува, първо пише сценарий, а после искаме да създаде бизнес. Според него така се случва сингулярността – не чрез внезапна експлозия, а чрез постепенното превръщане на невероятното в рутина.

Според него социалните последици ще бъдат също толкова важни.

Масовите професии ще изчезнат, но светът ще стане по-богат до степен, в която ще могат да се договарят нови форми на социален договор. Може би те няма да бъдат въведени за една нощ, а стъпка по стъпка. Въпреки това, когато хората се обърнат назад след няколко десетилетия, ще разберат, че са настъпили драматични промени. Точно както един фермер от миналото може да сметне днешните професии за „фалшиви“, така и ние ще сметнем професиите от 2100 година за „фалшиви“. В същото време те вероятно ще изглеждат важни и значими за хората от бъдещето.

Отделно Алтман се спира на значението на идеите. По-рано стартъп индустрията осмиваше онези, които имаха само идея, но не можеха да я реализират. Днес, според Алтман, такива хора ще придобият истинска сила, защото ще бъде лесно да се реализират идеи. Ограничаващият фактор ще бъде оригиналността, а не изпълнението.

Алтман призовава за глобална дискусия относно допустимите граници на използване на изкуствен интелект, за това как да се определи „колективното изравняване“ – какво наистина иска да получи човечеството от свръхинтелигентността. При това е важно да се гарантира, че достъп до него няма да имат само няколко избрани корпорации или държави. Той смята, че само при широк и равен достъп AI ще донесе максимална полза.

Според Алтман OpenAI остава преди всичко компания за изследване на свръхинтелигентността, но сега посоката е ясна, мракът се разсейва и ако е възможно да се върви по този път без катастрофа, можем да говорим за най-мащабната трансформация в историята на цивилизацията.