Експерти посочиха видовете задачи, с които Google Gemini не може да се справи

Големите езикови модели (LLM) като Google Gemini често създават илюзията за неограничени възможности поради способността си да анализират и генерират текст. Експертите обаче подчертават, че тези системи са двигатели за предсказване на текст, а не дигитални експерти. Архитектурата на LLM дава приоритет на плавността на речта пред проверката на фактите или точните изчисления, което ги прави ненадеждни за определени категории задачи. Тази информация беше публикувана от портала SlashGear.

Точни URL адреси и цитати

Един от основните проблеми на Gemini е склонността му да халюцинира при генериране на връзки. Моделът познава структурата на URL адреса, но често не проверява реалното му съществуване в мрежата, а математически предсказва как трябва да изглежда адресът. Това води до генериране на неработещи връзки или грешки 404. Дори Search Grounding методите не гарантират пълна точност.

Поддържане на точния брой думи

Gemini не може стриктно да спазва ограничението за броя думи. Това се дължи на факта, че езиковите модели обработват информацията не в думи, а в токени — статистически групирани фрагменти от символи. Поради това системата среща трудности при точното преброяване на броя думи в процеса на генериране на отговор. За проекти със строги изисквания за обема на текста е необходимо ръчно редактиране.

SEO показатели в реално време

Генеративният изкуствен интелект не може да замести професионалните маркетингови инструменти като Ahrefs или Semrush. Gemini няма достъп до „живи“ глобални бази данни за обема на търсене. Всички конкретни числа, които моделът предоставя, се основават на статични данни за обучение, които може да са остарели или да са резултат от халюцинации.

Биографии на хора, които не са световни знаменитости

Точността на Gemini намалява, когато се пита за хора, за които информацията е ограничена в интернет (като например местни служители). В случаи на недостиг на данни, моделът се опитва да запълни празнините, използвайки вероятности, което води до изфабрикувания или сливане на биографии на различни хора с едно и също име.

Генериране на истински случайни числа

LLM са детерминистични системи, които работят с математически операции и код, изискващ начално значение (seed). Те не са в състояние да осигурят високата ентропия, необходима за истинска случайност, както правят физическите явления.

Проблеми с пространствената логика

Текстово-базираните системи срещат трудности при моделирането на физическия свят и пространствените взаимоотношения. Gemini често се проваля в задачите, които изискват визуализиране на обекти в 3D пространството (напр. поставяне на блокове). На изкуствения интелект му липсва разбирането за причинно-следствените връзки, които са очевидни за хората във физическата реалност.

Броене на обекти в изображения

Въпреки че мултимодалните възможности на Gemini Vision му позволяват да анализира снимки, моделът е напълно неспособен да брои точно обектите. Например, не може да определи броя на топчетата в буркан. Вместо да брои последователно, както би направил човек, изкуственият интелект генерира вероятностен отговор, базиран на визуални модели. Резултатът е, че в претъпкана стая моделът може да „види“ 10 души вместо действителните 15.

ASCII графики

Създаването на носталгично ASCII изкуство от ранните дни на интернет не е за Gemini. Моделът не разбира точното подравняване на моношироко разпределените шрифтове, необходимо за този тип изкуство. Той предвижда символи, но не разбира специфичните разделители на редовете, използвани за създаване на изображението.

Заместване на съставки при печене

Печенето е въпрос на химия, така че съветът на Gemini да замени содата бикарбонат с бакпулвер може да наруши pH баланса на тестото. Моделът може да цитира добре познати съвети от блогове, но не притежава химията, за да разбере последиците от подобни замествания. Това е същият проблем, който накара изкуствения интелект на Google да препоръча добавяне на лепило към пицата.

Дешифриране на нечетлив почерк

Въпреки че OCR технологията за ясен текст съществува отдавна, Gemini поема риск, когато се справя с небрежен почерк. Моделът се опитва да отгатне думи въз основа на контекста, дори когато би било по-добре да се предположи, че са нечетливи. В здравна среда подобно „сигурно предположение“ за рецепта може да има катастрофални последици.

Статистика за спортове в ниските лиги

Докато данните за висшите лиги са лесни за намиране в интернет, статистиката за ниските лиги често е фирмена. Задаването на въпрос относно средния резултат в отбор на първенството на Англия през 1998 г. е по-вероятно да доведе до измислен, но реалистично звучащ отговор, отколкото честното „Не знам“.

Липограми и ограничено писане

Липограмата е текст без конкретна буква. Изглежда, че това е лесно за компютърна система, но Gemini редовно прави грешки. Причината е токенизацията: моделът често не регистрира отделни букви в рамките на токените, така че не може да контролира тяхното отсъствие.

Идентифициране на редки хардуерни конектори

Изкуственият интелект може да обърка марков DVR кабел със стандартен USB-C кабел поради сходната форма и текстура на повърхността. Тази грешка е опасна: неправилното свързване може да повреди порта или контактите на щепсела.

Текущи цени на дребно

Gemini не сканира Amazon или други магазини в реално време. Когато попитате за цената на графична карта, ще получите цена, която е била актуална преди месеци или години. Моделът извлича данни от вътрешната си памет с определена крайна дата, вместо да проверява активните сайтове.

Оценка на творческото писане

За писателите, които се стремят да усъвършенстват уникален стил, Gemini е лош съветник. Моделът е обучен да предпочита общо, корпоративно и безопасно писане. Той неизбежно ще маркира уникалните стилистични решения и жаргона като грешки. Следването, съветите му ще лишат текста от всякаква индивидуалност —- и именно тези „недостатъци“ често карат писането да оживява.