Капанът на алгоритъма: Учени предупреждават, че ИИ унифицира човешкото мислене

Ново проучване показва, че чатботовете, базирани на изкуствен интелект, могат постепенно да стандартизират начина, по който хората пишат, говорят и дори мислят. Ако този процес продължи, колективната способност на обществото да създава и решава сложни проблеми ще намалее. Учените виждат решението в увеличаването на езиковото и културното разнообразие на данните и включването на повече различни гледни точки в обучителните извадки на моделите.

Авторите на статията, компютърни учени и психолози, отбелязват, че милиарди потребители по света се обръщат към едни и същи чатботове, за да пишат текстове, да търсят идеи и да решават работни задачи. Това постепенно прави начините за изразяване на мисли все по-близки един до друг.

„Хората се различават по начина, по който пишат, разсъждават и възприемат света. Когато тези различия преминат през едни и същи езикови модели, стиловете на мислене и изразяване започват да се уеднаквяват“,

обяснява първият автор на изследването Дживар Сурати от Университета на Южна Калифорния.

Според учените когнитивното разнообразие е важен фактор за колективното творчество и способността на групите да намират нестандартни решения. Използването на чатботове за редактиране на текстове и генериране на идеи обаче може постепенно да намали индивидуалността на мисловните процеси. В резултат на това хората започват да чувстват по-малка творческа отговорност за текстовете, които създават.

Изследователите отбелязват също така, че големите езикови модели се обучават върху данни, в които преобладават езиците и културните норми на западните, образовани и икономически развити общества. Поради това отговорите на моделите често отразяват по-скоро тесен набор от ценности и начини на мислене, отколкото пълното разнообразие на човешкия опит.

Освен това взаимодействието с ИИ може да промени самите стратегии за разсъждение. Много модели използват „верижно разсъждение“ – последователно обяснение стъпка по стъпка. Въпреки че този подход е полезен при редица задачи, той може да измести по-интуитивните или абстрактни начини на мислене, които понякога са по-ефективни.

Друго предизвикателство е свързано с начина, по който потребителите взаимодействат с ИИ. Хората често избират текстови варианти, предложени от модела, които изглеждат „достатъчно добри“, вместо да формулират свои собствени идеи. С течение на времето това може да прехвърли инициативата от човека към алгоритъма. Изследователите наскоро установиха, че автоматичните съвети на ИИ при писане на текстове неусетно променят убежденията на потребителите.

Авторите смятат, че разработчиците трябва целенасочено да включват повече езиково и културно разнообразие, както и различни гледни точки и стилове на мислене в обучителните образци. Според тях подобни модели по-добре биха подкрепили колективната интелигентност на обществото и биха запазили способността на хората да генерират нови идеи.