Meta призна за „халюцинации“ на изкуствения интелект след опита за убийство на Тръмп

Корпорацията Meta, която обединява Facebook, Instagram и WhatsApp, призна, че нейният чатбот Meta AI погрешно е отрекъл факта за опит за убийство на кандидата за президент на САЩ Доналд Тръмп. Това съобщава DW.

След опита за убийство на Доналд Тръмп, потребителите започнаха да питат чатбота за стрелбата, но той отговори с дълги препратки към миналото и отрече бившият президент на САЩ да е бил убит. Освен това снимка след убийството на Тръмп с вдигнат юмрук беше маркирана като фалшива във Facebook и Instagram.

Вицепрезидентът по глобалната политика на Facebook , Джоел Каплан, го приписа на „халюцинации“ на AI и увери, че в грешката няма „злонамерено намерение“.

Както обясни Каплан, чатботът обработва огромен масив от данни, натрупани в продължение на много години, и затова му е трудно да работи с извънредни новини. Ето защо ръководството на Meta първоначално забрани на чатбота да говори за опита за убийство на Тръмп. По-късно забраната беше отменена, но чатботът продължи да мълчи или известно време да отрича факта за стрелбата.

„В малък брой случаи Meta AI продължи да дава неправилни отговори, понякога твърдейки, че няма събитие – вече работим по това. Тези типове реакции се наричат ​​халюцинации, които са проблем в цялата индустрия и ги виждаме във всички системи за генеративен AI. Това е развиващ се и постоянен проблем за това как AI обработва събитията в реално време. Както всички други системи за генериране на изкуствен интелект, моделите могат да произвеждат неточни или неподходящи данни“ — казва той.

Каплан обясни проблемите със снимката на Тръмп, на която той позира с вдигнат юмрук веднага след покушението, с факта, че нападателите са пуснали фалшива снимка в интернет, което разсмя служителите на американските тайни служби. Meta го маркира като фалшив. Но AI започна да блокира всички подобни кадри, включително и оригиналния.

Meta AI е безплатен асистент с изкуствен интелект от Meta Platforms, който беше пуснат в социалните медийни платформи WhatsApp, Instagram, Facebook и Messenger.