ИИ помощникът във вашия смартфон може да се окаже твърде коварен предател

Създателите на Bard не съветват потребителите да се сближават с генеративните невронни мрежи.

Интегрирането на генеративния изкуствен интелект в приложенията за смартфони, които използваме всеки ден, бързо набира скорост. Това беше предвидимо – ChatGPT още миналата година показа огромния интерес на потребителите към подобни технологии. А сега ставаме свидетели на истински бум на джобните AI асистенти.

Експертите обаче считат, че трябва да забавим темпото. Заедно с удобството идват и сериозни рискове за сигурността и неприкосновеността на личния живот.

Изглежда, че всички имаме една обща слабост, когато става въпрос за генеративни чатботове, базирани на ИИ. Ние може и да сме предпазливи при инсталирането на приложения, даването на разрешения, избора на браузъри и споделянето на лично съдържание във Facebook. Но щом започнем разговор с чатбот, веднага забравяме всички предпазни мерки. Хората се чувстват така, сякаш общуват с полезен нов приятел, на когото могат да се доверят. Както и да го попитат за всичко.

Но това е само интерфейс към огромна компютърна инфраструктура. Всичко това в крайна сметка се финансира от реклама и търговия с данни.

След обявяването на Bard на Google, който бързо се трансформира в Gemini, и на фона на множеството нови приложения, Google помоли всички потребители на Android и iPhone да бъдат възможно най-внимателни.

„Моля, не споменавайте чувствителна информация или факти в разговори, които не бихте искали да споделите с някой, който проверява записите на диалога. Или дори с Google, която може да използва тази информация, за да подобри собствените си инструменти, услуги и технологии за машинно обучение“, предупреждават разработчиците.

предупреждават разработчиците.

За щастие, компанията уверява, че засега разговорите в Gemini Apps няма да се използват за показване на таргетирани реклами. Само че това може да се промени в бъдеще.

Истинският проблем е, че потребителите споделят изключително лична и чувствителна информация с AI асистента, за да им помогне да напишат бизнес планове, презентации за продажби или дори контролните за училище. Когато човек напусне чат рума, въпросите, които е задал, и отговорите, които е получил, се съхраняват във вътрешни бази данни и потенциално могат да бъдат прегледани. Всъщност със сигурност ще бъдат анализирани.

Този мащаб на събиране и използване на данни е доста характерен за новия генеративен AI сектор като цяло. Ще трябва да се разработят подходи за оценка на нивата на сигурност и неприкосновеност на личния живот, осигурявани от различните компании в тази област, като Google или OpenAI.

Важно разграничение ще бъде къде се обработват данните – на устройството на потребителя или в облака. Apple вероятно ще започне да използва възможностите на своите приложения и услуги за смартфони, ако това наистина се окаже ефективен метод. Известно е, че компанията вече провежда експерименти за сравняване на ефективността при двата режима. Google, от друга страна, вероятно ще разчита повече на облачните изчисления, предвид различната си инфраструктура и приоритети.

Милиони собственици на iPhone и Android смартфони вече са изправени пред трудния избор дали да използват новите приложения с интегриран изкуствен интелект. Като например Gemini. Скоро всеки ще трябва да направи този избор.

От една страна, не можем напълно да защитим себе си и данните си, като продължаваме да се възползваме пълноценно от изкуствения интелект. Въпреки че през последните години е постигнат огромен напредък в защитата на личните данни при използването на интернет и мобилни приложения. От друга страна – възможностите, които се предоставят на потребителите на невронни мрежи, са толкова примамливи, че е трудно да ги отхвърлим. Трябва да се направи внимателна преценка на това кое е по-важно за нас.

Google казва, че можете да изключите дългосрочното съхранение на данни в настройките на Gemini. Но дори и тогава разговорите ще се съхраняват в базата данни в продължение на 72 часа. Подобни проблеми се наблюдават и при другите подобни услуги.