Създателят на Signal е разработил ИИ-асистент за скриване на данните от операторите и правоохранителните органи

Създателят на месинджъра Signal Мокси Марлинспайк се стреми да революционизира чатботовете по подобен начин, като добави слой анонимност. Той разработва AI-асистента с отворен код Confer, който гарантира, че потребителските данни са недостъпни за операторите на платформи, хакери, правоохранителни органи или някой друг освен самите собственици на акаунти.

Услугата, включително нейните големи езикови модели и бекенд компоненти, работи изцяло върху софтуер с отворен код, чието наличие може да бъде криптографски проверено от потребителите. Данните и разговорите, произхождащи от потребителите, както и отговорите от езиковите модели, са криптирани в надеждна среда за изпълнение (TEE), което не позволява на администраторите на сървъри дори да преглеждат или променят данните. Разговорите се съхраняват от Confer в същия криптиран вид, използвайки ключ на устройствата на потребителите.

Подобно на Signal, Confer се характеризира с простота във вътрешната си структура и дизайн. 

В момента всички големи ИИ-платформи са задължени да предават потребителските данни на правоприлагащите органи или частните лица в съдебни производства. Дори ако потребителите се откажат от дългосрочно съхранение на данни, самият ИИ-разработчик може да запази информацията. Например, миналия май съд разпореди на OpenAI да запази всички потребителски логове на ChatGPT, включително и изтритите и поверителни чатове, записани чрез услугата API.

Експерт по защита на данните, използващ псевдонима Ем, нарече ИИ-асистентите „заклети врагове“ на защитата на данните, защото тяхната полезност разчита на събирането на огромни количества данни от множество източници, включително и от отделни хора.

„AI-моделите по своята същност са миньори на данни. Те разчитат на събирането на големи количества данни за обучение, подобрение, операции и персонализиране. В повечето случаи тези данни се събират без изрично и информирано съгласие (от неинформирани участници в обучението или потребители на платформата) и се споделят с частни компании, които имат многобройни стимули да ги споделят и монетизират“ — казва тя пред Ars.

Липсата на потребителски контрол е особено проблематична, като се има предвид естеството на взаимодействието в рамките на LLM, казва Марлинспайк. Потребителите често възприемат диалога като интимен разговор, споделяйки своите мисли, страхове, злодеяния, бизнес транзакции и тайни. Това взаимодействие е коренно различно от традиционните интернет търсения, които обикновено се придържат към транзакционен модел: ключовите думи са входът, връзките са изходът.

Разработчикът сравнява използването на изкуствен интелект с признания пред „езеро от данни“. В отговор Марлинспайк разработи и тества Confer. Подобно на начина, по който Signal използва криптиране, за да направи съобщенията четими само за участниците в разговора, AI асистентът защитава потребителските заявки, AI отговорите и всички данни, които те съдържат. Подобно на Signal, тук няма начин отделни потребители да се свържат с реалната самоличност на други потребители чрез имейл адреси, IP адреси или други данни.

„Характерът на взаимодействието е коренно различен, защото е лично. Беше наистина интересно, вдъхновяващо и невероятно да чуя истории от хора, които са използвали Confer и са водили разговори, променящи живота им, отчасти защото не са се чувствали свободни да споделят информация в разговорите в ChatGPT или са имали прозрения, базирани на данни, които преди не са могли да споделят свободно в ChatGPT, но сега могат да го правят, използвайки среда като Confer“ — казва Марлинспей. 

Паролите са ключов елемент от криптирането на Confer. Този приет в индустрията стандарт генерира 32-байтова двойка ключове за криптиране, уникална за всяка услуга, към която потребителят се свързва. Публичният ключ се изпраща до сървъра. Частният ключ се съхранява само на устройството на потребителя, в защитен хардуер, до който хакерите не могат да имат достъп. Паролите осигуряват двуфакторно удостоверяване и могат да бъдат конфигурирани за влизане в акаунт с помощта на пръстов отпечатък, сканиране на лице, ПИН-код или парола за отключване на устройството.

Паметта на Confer ви позволява да синхронизирате съобщенията между други устройства.

Дистанционното удостоверяване позволява на всеки да възпроизвежда изход бит по бит, потвърждавайки, че сървърът използва само публично достъпен прокси и софтуер за обработка на изображения. За да се провери допълнително правилната работа на Confer, всяко издание е цифрово подписано и публикувано в дневника за прозрачност.

Вградената поддръжка на Confer е достъпна в най-новите версии на macOS, iOS и Android. В Windows потребителите трябва да инсталират страничен автентификатор. Липсва и поддръжка за Linux, въпреки че е налично разширение.

Друго публично достъпно LLM решение, предлагащо криптиране от край до край (E2EE), е Lumo, предоставено от европейската компания Proton. То използва същия криптиращ механизъм като Proton Mail, Drive и Calendar. Основният механизъм е значително по-сложен от този на Confer, тъй като разчита както на симетрични, така и на асиметрични ключове. Крайният резултат за потребителя обаче е до голяма степен същият.

Според представители на Proton, след удостоверяване на акаунт, всички разговори, данни и метаданни се криптират със симетричен ключ, собственост само на потребителя. Потребителите могат да изберат да съхраняват криптираните данни на сървърите на Proton за синхронизиране с устройството си или да ги изтрият веднага след края на разговора.

Третият доставчик на LLM услуги, който обещава поверителност, е Venice. Той съхранява всички данни локално, т.е. на устройството на потребителя.

Спомнете си, че шефът на месинджъра Signal предупреди Германия за нов шпионски закон на Брюксел.