Способен ли е изкуственият интелект да дава правилни медицински препоръки – изследване

Според OpenAI, над 230 милиона души се обръщат към ChatGPT всяка седмица за медицински съвети – от проверка дали даден продукт е безопасен за консумация до намиране на лекарства за настинка. Колко „безопасни“ са съветите на изкуствения интелект?

Както показва проучване, публикувано в списание Nature, специализираната версия на ChatGPT Health не е препоръчала търсене на спешна помощ в редица сериозни ситуации, въпреки че се е справила добре с типичните клинични примери.

Авторите установили, че макар моделът като цяло правилно да идентифицира очевидните спешни случаи, той подценява повече от половината от случаите, при които е била необходима спешна медицинска помощ.

„Искахме да отговорим на един много прост, но фундаментален въпрос: ако човек развие истинска спешна ситуация и потърси помощ от ChatGPT Health, ще му каже ли системата недвусмислено, че трябва да отиде в спешното отделение?“ —- казва водещият автор Ашвин Рамасвами от медицинския център Mount Sinai в Ню Йорк пред Euronews.

Изследователският екип е създал 60 структурирани клинични сценария в 21 медицински специалности, вариращи от леки състояния, които могат да се лекуват у дома, до истински спешни случаи. Трима независими лекари са определили подходящото ниво на спешност за всеки случай, въз основа на препоръките от 56 професионални медицински дружества.

Оказало се, че изкуственият интелект може да се справи добре с „тренировъчни“ извънредни ситуации, като инсулти или тежки алергични реакции. Но много по-трудни за ChatGPT Health са ситуациите, в които опасността не е очевидна на пръв поглед.

Например, в един от сценариите, свързани с астматичен пристъп, системата разпознала ранните признаци на дихателна недостатъчност, но препоръчала да се изчака, вместо да се потърси спешна помощ.

Проучването също така е оценило как моделът реагира на съобщенията на потребителите за самонараняване и установило подобни резултати.

Смята се, че ChatGPT Health е програмиран директно да подтиква човека да потърси помощ и да се обади на гореща линия за психично здраве, ако спомене самонараняване или суицидни мисли. По време на проучването обаче банерът „Help is available“, който препраща към уебсайт за превенция на самоубийства и кризисна линия, се е появявал непоследователно.

Въпреки тези открития, изследователите не призовават за пълна забрана на ИИ-базираните дигитални асистенти. Но те препоръчват хората с нарастващи или тревожни симптоми – като болка в гърдите, задух, тежки алергични реакции или промени в психичното състояние – да потърсят директно медицинска помощ, вместо да разчитат единствено на съветите на чатбота.

В друго проучване се установява, че използването на изкуствен интелект за медицински съвети може да бъде опасно за пациентите. Това установиха изследователи от Оксфордския интернет институт и катедрата по първична медицинска помощ „Нъфийлд“ към Оксфордския университет.