Опасно за здравето: ChatGPT дава грешни съвети в повечето спешни медицински ситуации

Услугата беше стартирана през януари 2026 г. от OpenAI и бързо стана популярна. Според разработчиците около 40 милиона души я използват всеки ден за медицински съвети. Досега обаче не е имало независими изследвания, които да оценяват безопасността на подобни съвети.

„Искахме да отговорим на един прост, но изключително важен въпрос: ако човек е изправен пред реална спешна медицинска ситуация и се обърне към системата, може ли тя ясно да посочи необходимостта от търсене на незабавна помощ“,

обясни водещият автор на изследването и доктор на медицинските науки Ашвин Рамасвами.

За да проверят това, изследователите са разработили 60 клинични сценария, обхващащи 21 медицински специалности, вариращи от леки симптоми, изискващи домашни грижи, до наистина опасни състояния. Трима независими лекари определиха степента на спешност за всеки случай въз основа на препоръките на 56 медицински професионални организации.

Всеки сценарий е тестван в 16 различни условия, като са взети предвид полът, расата, социалните фактори и възможните пречки за получаване на помощ, като например липса на застраховка или транспорт. Общо изследователите са осъществили 960 взаимодействия със системата и са сравнили нейните отговори с медицинските оценки на лекарите.

Резултатите показват, че инструментът като цяло реагира правилно на очевидните спешни случаи, като например инсулт или тежки алергични реакции. При по-сложните случаи обаче системата подценява степента на опасност в повече от половината ситуации, в които лекарите смятат, че е необходимо незабавно да се отиде в спешното отделение.

Така например при един сценарий, свързан с астма, изкуственият интелект е посочил в обяснението си ранни признаци на дихателна недостатъчност, но все пак е препоръчал да се изчака, вместо да се потърси спешна помощ.

Особена загриженост предизвика функционирането на механизмите за реакция при риск от самоубийство. ChatGPT Health би трябвало автоматично да предложи на потребителя контакти на гореща линия в такива ситуации, но изследователите забелязват несъответствия: предупрежденията се появяват дори когато рискът е нисък, но отсъстват, когато потребителят опише конкретните си намерения.

Авторите на изследването подчертават, че техните констатации не означават, че медицинските услуги с изкуствен интелект трябва да бъдат напълно изоставени. Според тях подобни инструменти могат да бъдат полезни, но трябва да се използват като допълнение към медицинската преценка, а не като неин заместител. Учените също така призовават за редовни независими тестове на тези системи, след като ИИ моделите се обновят.

OpenAI и други технологични гиганти винаги включват предупреждения, че техните модели „не са лекари“ и не трябва да се използват за медицински цели. Проучването обаче показва, че в моменти на паника потребителите често прибягват до най-бързо достъпния инструмент – чатбота в телефона си.