AI демонстрира невероятни способности да лъже човека

Изследователи от Anthropic са открили, че моделите на изкуствен интелект могат да бъдат обучени да заблуждават хората, вместо да им дават правилните отговори на техните въпроси. Освен това, AI демонстрира невероятни способности за лъжа.

Anthropic е стартъп в областта на AI, фокусиран върху отговорната и безопасна употреба. През септември 2023 г. Amazon стана неин частичен собственик, който обеща да инвестира $4 милиарда в компанията. Изследователите от Anthropic, като част от един от проектите, си поставиха задачата да установят дали е възможно AI да се научи да мами потребителите или да извършва такива действия, като например въвеждане на експлойт в първоначално защитен компютърен код. За да направят това, експертите са научили AI както на етично, така и на неетично поведение — те са внушили в него склонност към лъжа, вграждайки в обучителния му масив задействащи фрази, които насърчават работата да не върви правилно.

Изследователите не просто са успели да накарат чатбота да се държи лошо — те са открили, че е изключително трудно да се елиминира такова поведение. В един момент те са провели специално обучение и ботът просто е започнал да крие склонността си да мами за периода на обучението и оценката,  продължавайки умишлено, когато работи, да дава невярна информация на потребителите. „Нашата работа не оценява вероятността [за появата] на посочените вредни модели, а набляга на техните последствия. Ако моделът демонстрира склонност към измама, поради неговото “отравяне“, съвременните аналози за обучение по сигурността няма да гарантират безопасност и дори може да създадат погрешно впечатление за нейното присъствие“ — заключават изследователите. В същото време, те подчертават, че нямат информация за умишлено въвеждане в механизмите на неетично поведение, в която и да е от съществуващите AI-системи.