Гаф в Anthropic: Обновление на Claude разкри тайни функции, включително ИИ „Тамагочи“

Много преди бързото развитие на системите за изкуствен интелект производителят на електронни устройства Tomagochi (Тамагочи), които симулират процеса на грижи за домашни любимци, се опитва да се възползва от психологическата зависимост на хората от виртуалните им спътници. Разработчиците на AI бота Claude се опитват да възвърнат част от този опит, като въвеждат съответната функция в своите решения.

Експерименталните възможности на чатбота Claude Code станаха известни в резултат на това, че Anthropic случайно публикува фрагмент от изходния код при разпространението на актуализацията 2.1.88. Както съобщава The Verge, повече от 512 000 реда от изходния код на Claude Code са станали публично достояние поради грешка на човек от Anthropic. Анализът на този фрагмент от кода е позволил на ентусиастите да разберат върху какви обещаващи функции работят специалистите на Anthropic.

Наред с другите неща, бяха забелязани признаци за работата на Anthropic върху функцията „памет“, която позволява на потребителя да се позовава на предишни запитвания в диалога с Claude. Известен представител на стартъпа коментира идеята по не особено благосклонен начин. Според разработчика използването на паметта значително увеличава сложността, но не е факт, че постигнатата печалба в ефективността на взаимодействието с чатбота я оправдава.

Освен това Anthropic неволно бе уличен в разработване на виртуален „домашен любимец“, който постоянно ще бъде в близост до диалоговия прозорец на чатбота и ще демонстрира визуален отговор на човешките входни данни. Алтернативата би била KAIROS – постоянно присъстващ агент, който следи действията на потребителя. Представителите на Anthropic признаха, че фрагментът от изходния код е изтекъл случайно. Анализаторите на Gartner добавиха, че в дългосрочен план подобно изтичане не представлява сериозна заплаха за Anthropic, но ще накара компанията да се замисли за необходимостта от засилване на мерките за сигурност.