Чатботовете нямат личност, но могат много убедително да я имитират

Потребителите често приписват човешки черти на чатботовете, базирани на изкуствен интелект, като ги възприемат като интелигентни събеседници, способни да дават точни съвети. Този ефект е наблюдаван още през миналия век. Всъщност модели като ChatGPT, Claude и Grok нямат личностни характеристики: те генерират отговорите въз основа на статистическите модели в данните за обучение, като разглеждат думите и понятията като точки в математическо пространство. Илюзията за индивидуалност се създава от комбинацията от предварително обучение, човешка обратна връзка, системни подсказки, контекст, външни източници и случайност. Това възприятие може да бъде опасно, особено за уязвимите потребители, които се доверяват на шаблонните отговори на ИИ в критични ситуации, като например здравословни проблеми.

Хората са склонни да приписват човешки черти на изкуствения интелект, като възприемат чатботовете като интелигентни събеседници. Така например в статия на Ars Technica се посочва примерът с жена, която се е редила на опашка в пощата и е показала на служител съобщение на телефона си: ChatGPT я е информирал за несъществуващо „обещание за най-добра цена“ в уеб сайта на организацията и тя се е доверила на този съвет повече, отколкото на пощенския служител. Подобен ефект е наблюдаван още през 60-те години на миналия век с примитивния чатбот ELIZA, който просто съпоставял шаблони и формулирал въпроси. Дори да знаели това, потребителите споделяли с него поверителни истории. ИИ всъщност няма личност: зад правдоподобните отговори се крие статистически генератор на текст, който само подбира вероятните последователности от думи въз основа на подсказките на потребителя и данните от обучението. Той няма постоянна същност и дори пълно разбиране на ситуацията.

Големите езикови модели (LLM) като ChatGPT, Claude и Grok генерират отговорите въз основа на моделите в данните за обучение. Те разглеждат думите и понятията като точки в математическо пространство, като ги свързват, за да създадат правдоподобен текст. Всеки отговор се генерира въз основа на сигналите на потребителя и данните от обучението – ChatGPT не може да „признава“ фактите и да анализира резултатите безпристрастно. Изследванията показват, че поведението на тези модели е изключително нестабилно: резултатите могат да се променят с до 76 процентни пункта поради най-малката промяна във формулировката на заявката.

Освен това неотдавнашната работа потвърждава, че LLM нямат постоянна идентичност: моделът рядко прави едни и същи избори при сходни сценарии и неговата „личност“ е силно зависима от контекста. Това отличава ИИ от хората, които имат стабилна идентичност и са отговорни за действията си.

Илюзията за личността на ИИ може да има сериозни последици, особено в критични области като здравеопазването. Потребителите могат да възприемат чатботовете като авторитети и да разчитат на шаблонните отговори вместо на реалните знания.