Как да накарате Google да лъже: писател внуши на AI търсачката, че котката му говори кантонски

Известният американски писател, автор на комикси и блогър Чък Уендиг е успял да убеди услугата за търсене с изкуствен интелект на Google, че има котка, която с името Сър Мюлингтън фон Пийсбрейт, която носи цилиндър и говори на кантонски диалект на китайския език.

Днешните AI модели всъщност са сложни статистически алгоритми, чиято задача е да предсказват последващи думи. Това означава, че като заявка към такава система понякога може да се изпрати откровена глупост, а в отговор тя ще направи търсене в голям брой източници, ще намери случайна информация, ще я събере в нещо като обзор, който в действителност ще бъде също толкова абсурден, колкото и отговорът. Примерът на Чък Уендиг потвърждава това.

През декември Уендиг сподели в блога си, че според услугата за търсене с изкуствен интелект на Google той има котка на име Бумба, за която се твърди, че е получила името си от уебсайта Wengie Wiki. В действителност писателя няма никаква котка. Няколко търсения по-късно услугата за търсене с изкуствен интелект на Google му каза, че котката му Бумба е умряла и писателят има нова котка на име Франкен. Като доказателство системата се позова на блога на Уендиг, в който всъщност никога не се споменаваше Бумба или Франкен. В поредица от последващи търсения услугата започнала непрекъснато да измисля нови домашни любимци на писателя под нови имена – AI също така добавил неподходяща информация за неговото здраве и религиозни предпочитания.

Уендиг не се поколеба да разкритикува не само услугата за търсене с изкуствен интелект на Google, но и технологията в сегашния ѝ вид. Той отбеляза, че услугата не е в състояние да разграничи истината от измислицата и връща като отговор откровени глупости в стремежа си да угоди на потребителя.