Откриха зловредна реклама в Bing Chat

През март Microsoft решиха да започнат да изкарват пари от дигиталния си асистент Bing Chat, като инжектират реклами в отговорите, които чатботът подава към хората. Но нещата се объркаха и Bing Chat е започнал да подава връзки към измамнически сайтове и зловреден код.

През февруари тази година Microsoft представиха Bing Chat, задвижван от технологията на OpenAI GPT-4 в опит да направят Bing достоен конкурент на търсачката на Google. След пробен период на бота, Microsoft го пусна в публичен достъп и наскоро от компанията се похвалиха за проведени над един милиард разговора чрез него. При един такъв наплив звучи логично компанията да търси допълнителна монетизация на услугата си, предлагайки, подобно на традиционната версия на търсачката си, персонализирана реклама спрямо съответното търсене. Що се отнася до разпространението на фалшива реклама и зловреден код чрез рекламни съобщения или т.нар. „малвъртайзинг“, това е проблем от години, с който собствениците на сайтове и големите търсачки се опитват да се справят с променлив успех. Това, което в случая за който ни разказват Malwarebytes е положително е, че не става дума за т.нар. „drive-by атаки“ – сложен тип атака, при който самото зареждане на рекламата води до инфектиране. Тук, компанията е потърсила определен тип софтуер, в случая IP-скенер и още първия резултат, който се явявал реклама, ги отвел към подозрителна страница, на която за сваляне се предлагал определен софтуер, който след инсталацията си се оказва зловреден. Защо обаче този случай – с един чатбот – е различен от зловредна реклама в някоя търсачка, да речем? Добър коментар по случая прави Дул Тулас от страниците на Bleeping Computer.

„Този тип диалогично взаимодействие може да внуши на представените от изкуствения интелект интернет адреси може да внуши погрешно чувство за достоверност и доверие, така че съществуващия проблем с малвъртайзинга в платформите за търсене е завишен чрез представянето на AI асистент. Фактът, че тези реклами са маркирани като промотирани резултати, когато човек посочи върху тях с мишката в един разговор с бота е вероятно твърде слаба мярка да отслаби риска в случая“, пише той.

Що се отнася до конкретния случай, за който разказват Malwarebytes, то причината за инцидента се е оказала, че хакери са превзели легитимен акаунт на компания, имаща правото да доставя реклама към чатбота.