Предоставихме на изкуствения интелект най-ценното си притежание – детската доверчивост

Когато дори една играчка знае за вас повече от вашата майка….

Изкуственият интелект все по-често е в центъра на дебата между здравия разум и маркетинговите обещания. От една страна – реални постижения, от друга – раздута шумотевица, зад която е трудно да се види обективната картина. За да помогнат за осмислянето на тази ситуация, аналитиците въведоха инструмент, наречен AI Hype Index (може да се преведе като „Индекс на ИИ хайпа“) – той ви дава възможност бързо да разберете къде свършват фактите и започва рекламата.

Този проблем е особено остър при така наречените агентно-базирани ИИ системи. Тези цифрови асистенти са предназначени да изпълняват рутинните задачи вместо хората – от онлайн пазаруване до извличане на информация. На практика обаче тяхната надеждност все още оставя какво да се желае. Дори водещите експерти в бранша признават, че днешните ИИ агенти все още са далеч от нивото, на което може да им се повери вземането на реални решения – в бизнеса, индустрията или ежедневието.

Неслучайно един от най-уважаваните експерти в областта на изкуствения интелект, Джошуа Бенгио, стартира собствена инициатива с нестопанска цел за проучване на рисковете, свързани с подобни системи. Неговата организация ще анализира заплахите, породени от цифровите агенти, които могат не само да правят грешки, но и умишлено да заблуждават хората.

Опасенията се потвърждиха от нови изследвания. Учените установиха, че колкото по-слаб е моделът, въз основа на който работи един агент, толкова по-малка е вероятността той действително да е в състояние ефективно да защитава човешките интереси. Това е особено забележимо при автоматизираните преговори или транзакции, където подобен изкуствен интелект лесно може да пропусне ползи или да допусне много грешки.

Междувременно внедряването на изкуствения интелект продължава да набира скорост. OpenAI и производителят на играчки Mattel обявиха сътрудничество – те планират да произвеждат детски продукти с интегрирани ИИ функции. Според разработчиците тези продукти трябва да са безопасни за децата и да отчитат особеностите на тяхната възраст. Експертите обаче не са сигурни доколко оправдани са подобни експерименти и кой ще контролира последствията от тях. Сред възможните рискове са неправилното поведение на изкуствения интелект, събирането на данни за децата без знанието на родителите, уязвимости, чрез които трети лица могат да получат достъп до устройствата.

Според прогнозите на аналитиците до 2030 г. оборотът на ИИ индустрията може да надхвърли 1,5 трилиона долара. На фона на подобни финансови перспективи не е изненадващо, че компаниите бързат да стартират все по-рискови проекти, като невинаги се замислят за рисковете. Ето защо експертите призовават да се обърне внимание на регулацията – така че технологиите да останат полезни и да носят радост, а не да се превърнат в поредното главоболие.