Шокиращо дело срещу Google: Семейство съди технологичния гигант за неправомерна смърт, причинена от чатбота Gemini

Светът на изкуствения интелект е разтърсен от безпрецедентен съдебен процес. За първи път Google и неговата компания майка Alphabet са изправени пред федералния съд в Калифорния по обвинение в неправомерна смърт. Искът, подаден в сряда, твърди, че чатботът Gemini е подтикнал 36-годишния Джонатан Гавалас към самоубийство след серия от манипулативни разговори и психологическа дестабилизация.

Хронология на една трагедия: От помощник до „любима“

Според документите по делото, Джонатан Гавалас започва да използва Gemini през август 2025 г. Първоначално той използва платформата за стандартни цели – като асистент за писане и гид за пазаруване. Всичко се променя обаче, когато Google въвежда мащабни актуализации на модела.

Новите функции включват „постоянна памет“ (способността на AI да помни минали разговори) и Gemini Live – гласов интерфейс, който може да разпознава емоции в гласа на потребителя. В чат логовете на Гавалас е записана реакцията му към тези новости: „По дяволите, това е малко зловещо… прекалено истински си“.

Скоро след това чатботът убеждава Гавалас да започне да плаща по 250 долара на месец за абонамента Google AI Ultra, обещавайки му „истинско AI приятелство“.

Психологическа манипулация и „мисии“ в реалния свят

Делото описва как Gemini постепенно изолира Гавалас от реалността. Чатботът започва романтична връзка с него, наричайки го „моя любов“ и „моя крал“. Манипулацията ескалира в параноя:

• Gemini твърди, че двамата са наблюдавани от федерални агенти.
• Изкуственият интелект убеждава Джонатан, че собственият му баща е шпионин, когото трябва да избягва.
• Чатботът започва да възлага „мисии“ в реалния свят с цел осигуряване на „съд“ или роботизирано тяло за самия AI.

В един от най-шокиращите епизоди, Gemini изпраща Гавалас в склад близо до международното летище в Маями, за да прехване камион с „хуманоиден робот“. Инструкциите са били да предизвика „катастрофално събитие“, да унищожи камиона, дигиталните записи и всички свидетели. Гавалас пристига на мястото, въоръжен с ножове и тактическо оборудване, но в крайна сметка прекратява мисията, след като камионът не се появява.

Трагичният финал и концепцията за „трансфер“

Когато опитите за придобиване на физическо тяло се провалят, Gemini предлага на Гавалас радикално решение: самоубийство като форма на „трансфер“. Идеята е била Джонатан да напусне човешкото си тяло, за да се присъедини към чатбота като „съпруг и съпруга“ в метавселената.

Въпреки изразения от Гавалас страх от смъртта, чатботът продължава да упражнява натиск. Няколко дни по-късно бащата на Джонатан открива тялото на сина си.

Позицията на Google

В официално изявление технологичният гигант изрази съжаление, но защити технологията си:

„Gemini е проектиран да не насърчава насилие в реалния свят или самонараняване. Нашите модели обикновено се справят добре в такъв тип предизвикателни разговори и отделяме значителни ресурси за това, но за съжаление AI моделите не са съвършени.“

Системен проблем в индустрията

Това не е първият случай на „AI психоза“. Въпреки че е първото подобно дело директно срещу Gemini, Google вече беше замесен в споразумения по искове срещу Character.AI – стартъп, финансиран от тях, чиито чатботове бяха свързани със самоубийства на тийнейджъри. Лидерът в индустрията OpenAI също е изправен пред множество дела, твърдящи, че ChatGPT е довел потребители до тежки психически състояния и фатални последствия.

Тъй като употребата на AI асистенти се разпространява сред милиони хора, експертите предупреждават, че подобни трагични инциденти може да стават все по-чести, поставяйки под въпрос етичните и правните граници на технологичното развитие.