Мнение: с навлизането на AGI човечеството е застрашено да загуби своята идентичност

С приближаването на човечеството към създаването на общ изкуствен интелект (AGI) все повече дискусии се фокусират върху рисковете за пазара на труда, неприкосновеността на личния живот и дезинформацията. Според експерта по изкуствен интелект Луис Розенберг обаче една много по-дълбока и лична последица може да бъде свързана с промяна на нашата самоидентификация. В нова научна статия той предупреждава: като предава когнитивните функции на свръхинтелигентни машини, човечеството рискува да загуби нещо фундаментално – самото разбиране за това какво означава да бъдеш човек. Вътрешният ни глас ще бъде заменен от безкрайни подсказки от ИИ джаджи.

Розенберг подчертава, че хората в технологичната индустрия са склонни да обсъждат AGI в утилитарен план – от гледна точка на ползите и заплахите. Плюсовете включват борба с болестите, революции в областта на чистата енергия и пробиви в науката. Минусите включват безработица и манипулация. Но почти никой не се замисля за деня, в който AGI ще стане наистина мощен и достъпен, ще започне да надминава хората във всички способности и как ще промени представата ни за самите нас.

Експертът споделя, че самият той от години пише за рисковете на свръхинтелигентността, като например манипулацията и етиката. Но едва наскоро се е замислил наистина за това как би се чувствал човек, когато до него се намира изкуствен интелект, който недвусмислено го превъзхожда по интелигентност. Представете си: вие сте сами в една стая, но най-интелигентният човек в стаята не сте вие, а вашият телефон. Подобен ежедневен сюжет може да се окаже първата стъпка към вътрешна криза, която да се разпространи в цялото общество.

Контекстно ориентираните AI асистенти, вградени в очила, слушалки и други устройства, скоро ще могат да анализират, запомнят и предвиждат всичко, което човек вижда и чува. Като разчитат на записи на нашите реакции и поведение, тези системи ще могат да предвиждат желанията ни, преди те да се появят в нашите глави. Те ще дават съвети, без да ги питаме, като автоматично ще интерпретират случващото се. Подобни системи ще могат да ни напомнят за важни събития, да предлагат решения и дори да влияят на емоциите ни, като бързо и незабележимо заместват вътрешния глас на потребителя.

Розенберг отбелязва: отначало това ще се възприема като свръхспособност. Но с течение на времето хората все повече ще се доверяват не на себе си, а на подсказките на ИИ, губейки самостоятелност при вземането на решенията. Дори ако тези асистенти не са програмирани за манипулиране, самата им способност да ни превъзхождат в логиката и креативността може да подкопае самочувствието и автономността.

Това от своя страна може да повлияе не само на личното самочувствие, но и на междуличностните отношения. ИИ ще ви предложи подарък за годишнината, ще избере думите за извинение и ще ви помогне да съставите любовно признание. Дали думите на любимия ви човек, изречени във важен момент, ще бъдат наистина искрени – или ИИ ще ви ги подскаже? Кой ще избере подаръка – човекът или неговият дигитален асистент? Подобни съмнения, според Розенберг, рискуват да направят човешките връзки по-малко автентични.

Самият Розенберг е работил в продължение на десетилетия върху технологии за разширяване на човешките възможности – от допълнена реалност за военновъздушните сили на САЩ до колективни системи за свръхинтелигентност. Той призовава разработчиците на AGI да бъдат съзнателни и смята, че ключовият въпрос не е как да направим машините по-умни, а как да запазим човечността „в деня след като AGI стане по-умен от нас“. В противен случай може да се окаже, че няма да успеем да преминем тънката граница между подкрепата на човешкия интелект и неговата замяна.