Зловещи „халюцинации“ на ИИ: устройствата Google Home виждат „призраци“ в домовете и ви предупреждават за тяхната активност

Редица потребители в Reddit твърдят, че техните устройства Google Home са започнали да записват и описват присъствието на хора, които никога не са виждали. 

В едно съобщение се твърди, че камерата на потребителя е заснела Майкъл да изхвърля боклука. В къщата обаче няма никой с това име. Когато потребителят попитал Google Assistant за това, той отговорил, че камерата му разпознава лица, дори без имена. Камерата е заснела Майкъл между 26 и 27 октомври.

Според потребителя, той никога не е въвеждал името „Майкъл“ в системата, но е изнесъл боклука в определеното време и вероятно е бил заснет от камера. Друг потребител съобщи, че неговият Google Home случайно му е напомнил да изнесе боклука, след което е отрекъл това и накрая е настоял, че е сгрешил. 

Друг твърди, че устройството му е съобщило, че приятел на име Дейвид е влязъл в хола и е чистил с прахосмукачка. Потребителят има приятел с това име, но този човек никога не е влизал и никой не е чистил с прахосмукачка.

Друг потребител на Reddit публикува пост няколко дни по-рано, твърдейки, че камерата Google Nest е записала основните събития от деня, идентифицирайки жена на име Сара. Изкуственият интелект е отбелязал, че Сара е разхождала кучета и е изхвърляла боклука. Мъжът твърди, че живее сам и не познава никого с това име. Системата също така е предположила, че в хола са активни две кучета, въпреки че потребителят притежава само едно.

Официалният акаунт на Google вече е отговорил на потребителските сигнали и е поискал видеозаписи. Един коментиращ предполага, че това поведение може да е свързано с начина, по който работят големите езикови модели. Ако системата приеме, че дадено име най-добре съответства на контекста на описанието, тя може да генерира това име, дори ако е невалидно, тъй като не може да различи точно описанието от измислицата.

Ева Ганън, чието семейство е собственик на ресторант, каза пред First Alert, че изкуственият интелект на Google постоянно е казвал на клиентите нереалистични оферти и е измислял елементи от менюто. В един пример изкуственият интелект на Google е твърдял, че Стефания предлага голяма пица на цената на малка – очевидно много хора биха се разочаровали, ако не получат такъв подарък.

Това далеч не е първият бизнес, пострадал от дезинформация, подхранвана от изкуствен интелект. През юни компания за слънчева енергия от Минесота заведе дело за клевета срещу Google, твърдейки, че отзивите на AI Overviews са предоставили на клиентите невярна информация за компанията, което е навредило на бизнеса ѝ.

Австралийска банка пострада от изкуствения интелект по друг начин: замяната на служителите по техническа поддръжка с изкуствен интелект доведе до увеличаване на обажданията и извънредния труд за останалите служители. В резултат на това на съкратените служители се отправиха извинения и те бяха върнати на работа.