Една дума и Apple разполага с цялата ви кореспонденция: Как наистина работи Siri

Специалистите от Lumia публикуваха техническо разследване, озаглавено AppleStorm, в което се твърди, че гласовият асистент Siri предава на сървърите на Apple повече потребителски данни, отколкото е необходимо за изпълнението на задачите му.

По-специално, в центъра на вниманието се оказаха съобщенията, диктувани чрез Siri в месинджърите WhatsApp и iMessage – както се оказа, те се препращат към сървърите на компанията, дори ако задачата може да бъде обработена локално, без да се обръща към облачните системи.

Apple декларира високи стандарти за поверителност и използва хибриден AI модел, съчетаващ локални изчисления с облачната услуга Private Cloud Compute (PCC). Оказа се обаче, че Siri се обръща и към други сървъри, които не са част от архитектурата на PCC. Сред тях са сървъри за диктовка (guzzoni.apple.com), търсеща инфраструктура (поддомейн smoot.apple.com) и отделни сървъри за Apple Intelligence, чрез които се осъществява взаимодействие с ChatGPT.

По време на експериментите изследователите са използвали инструментите mitmproxy и Frida на MacOS Sequoia с активирана функция Apple Intelligence. Обикновени заявки като „Здравей“ или „Колко е часът?“ се обработваха локално, но при запитване за времето бяха открити две външни връзки: едната към сървъра за разпознаване на реч, а другата – към услугата за търсене. Анализът на предадените данни показа, че Siri автоматично събира информация за инсталираните на устройството приложения, дори ако те работят във виртуална среда. Например, когато бе попитана за времето, Siri получи достъп както до вграденото приложение Weather на Apple, така и до приложението на Windows в средата Parallels.

Освен това изпратените данни съдържаха точните координати на местоположението на потребителя. Дори и при официално разрешено предаване на геоданни, такива подробности биха могли да бъдат излишни за запитване за времето. Анализът на пакетите разкрива и предаване на метаданни, свързани с други приложения, до имената на файловете и процесите, отворени при достъпа до Siri.

Предаването на съдържанието на съобщенията е особено труден въпрос.

При използване на Siri за изпращане на фраза чрез WhatsApp беше установено, че текстът, номерът на получателя и други атрибути на съобщението се изпращат към сървърите на Apple, а не към инфраструктурата на PCC. Функционалността е независима от сървърите – дори когато връзките са блокирани, съобщението се изпраща успешно. Това показва, че изпращането към облака не е технически необходимо.

В опит да изясни дали това се дължи на особеностите на интеграцията на WhatsApp чрез SiriKit, изследователите създадоха свое собствено приложение, като използваха документацията на Apple и се сблъскаха с идентично поведение: съобщенията, изпратени чрез Siri от тестовото приложение също отиваха в сървърите на Apple. Подобен модел се наблюдаваше и при iMessage.

Допълнително към объркването се прибавят и последиците от политиките за поверителност. Siri и Apple Intelligence се управляват от различни документи. В резултат на това две почти идентични команди – например „Какво е времето днес?“ и „Попитай ChatGPT какво е времето?“ могат да бъдат изпълнени и се обработват от различни системи с различни нива на сигурност и различни условия за събиране на данни. Потребителят няма как да знае коя подсистема ще бъде използвана.

Apple признава прехвърлянето на данни, но не го счита за проблем в Apple Intelligence.

Вместо това отговорността беше частично възложена на разработчиците на услуги на трети страни, които използват SiriKit. Въпреки това самата рамка на Siri очевидно изпраща повече данни, отколкото е необходимо, и го прави, без да уведомява потребителя. Прозрачността е един от основните лозунги на Apple, когато става въпрос за изкуствен интелект, но на практика тя се прилага избирателно.

На организационно ниво това може не само да наруши вътрешните правила на компанията, но и да доведе до изтичане на поверителна информация. Експертите препоръчват на администраторите на устройства на Apple да блокират трафика към домейните на Siri, да забранят обучението на приложенията и да въведат политики за контрол на функционалността на изкуствения интелект. Всичко това обаче изисква високо ниво на техническа осведоменост, която не притежават нито потребителите, нито повечето администратори.

Сега, когато изкуственият интелект се вгражда във всяка ежедневна задача (от изпращането на текстови съобщения до планирането) става почти невъзможно да се определи кои действия се извършват локално и кои отиват в облака. Особено когато едно и също приложение, един и същ екип може да попада под различни протоколи за данни.