Използването на изкуствен интелект за медицински съвети може да бъде опасно за пациентите, установява проучване

Чатботовете с високи резултати на тестовете се представят слабо в реалните сценарии за лечение на хора.

Използването на чатботове, задвижвани от изкуствен интелект, за получаване на медицински съвети може да бъде опасно за пациентите. Чатботовете често предоставят неточна или противоречива информация. Това е заключението, до което стигнаха изследователи от Оксфордския интернет институт и катедрата по първична медицинска помощ „Нъфийлд“ към Оксфордския университет, според BBC.

Проучване, публикувано в списание Nature Medicine, установи, че изкуственият интелект е склонен да предоставя неточна и противоречива информация, създавайки рискове при вземането на медицински решения. Въпреки високите резултати на стандартизираните тестове, изкуственият интелект не гарантира правилно поведение в реални ситуации.

„Въпреки цялата шумотевица, изкуственият интелект просто не е готов да поеме ролята на лекар“ —- каза съавторът на изследването д-р Ребека Пейн. Според нея проблемът се крие не само в качеството на отговорите, но и във взаимодействието между хората и модела.

В рандомизирано проучване изследователи са набрали 1298 възрастни участници от Обединеното кралство. На тях са били представени десет медицински сценария и са били помолени да идентифицират потенциалните заболявания и препоръчителните действия.

Някои участници използвали езиковите модели GPT-4o, Llama 3 или Command R+, докато контролната група разчитала на конвенционални методи, включително търсене в интернет или собствени знания. Резултатите показали, че потребителите, използващи изкуствен интелект, са идентифицирали правилните заболявания в по-малко от 34,5% от случаите.

В същото време, софтуерът демонстрира значително по-високи нива на точност при отделните тестове без човешка намеса. Това предполага, че ключовият проблем се крие във взаимодействието на потребителя с моделите, а не само в техните познания.

„Пациентите трябва да са наясно, че задаването на въпроси на голям езиков модел относно техните симптоми може да бъде опасно“ —- подчерта Пейн. Тя добавя, че това може да доведе до погрешни диагнози или игнориране на ситуации, които изискват спешна помощ.

Водещият автор Андрю Бийн отбелязва, че дори най-добрите езикови модели се сблъскват с предизвикателства при взаимодействието си с реални хора. Той изрази надежда, че „тази работа ще допринесе за разработването на по-безопасни и по-полезни системи с изкуствен интелект“.

Изследователите препоръчват систематично тестване с реални потребители преди внедряването на ИИ в здравеопазването. Те смятат, че стандартните бенчмаркове и симулациите не са в състояние да идентифицират ключовите рискове за пациентите.

Това проучване е резултат от пускането на специализирани услуги за управление на здравните въпроси от Anthropic и OpenAI. Claude for Healthcare е фокусиран върху клиничната практика, администрацията и ангажирането на пациентите. Според Anthropic, целта е да се помогне на лекарите да намалят времето, прекарано в рутинни процеси, а пациентите да разберат по-добре медицинската информация.

ChatGPT Health от OpenAI ви помага да интерпретирате резултатите от тестовете, да се подготвите за лекарски прегледи, да анализирате данните от носимите устройства и да сравнявате застрахователните варианти. Услугата обаче не е предназначена за диагностика или лечение и е насочена единствено за подпомагане на вземането на медицински решения.