Проучване показва, че хората не могат да получат истински здравни съвети от чатботовете с изкуствен интелект

С оглед на дългите списъци с чакащи и нарастващите разходи в претоварените здравни системи, много хора се обръщат към чатботовете, задвижвани от изкуствен интелект, като ChatGPT, за самодиагностика.  Според едно скорошно проучване, около един на всеки шест възрастни американци поне веднъж месечно вече използва чатботове, за да получава медицински съвети.

Но прекомерното разчитане на работата на чатботовете може да бъде рисковано, отчасти защото хората имат затруднения да разберат каква информация да предоставят на чатботовете за най-добри здравни препоръки, според скорошно проучване, проведено в Оксфорд.

„Проучването установи срив в двупосочната комуникация“ — каза пред TechCrunch Адам Махди, директор на следдипломните изследвания в Оксфордския интернет институт и съавтор на изследването. „Тези, които са използвали [чатботове], не са вземали по-добри решения от участниците, които са разчитали на традиционните методи като онлайн-търсене или собствено мнение.“

За проучването авторите са набрали около 1300 души във Великобритания и са им предоставили медицински сценарии, написани от група лекари. Участниците са инструктирани да идентифицират потенциални здравословни състояния в различни сценарии и с помощта на чатботове, както и свои собствени методи, и да определят възможните начини на действие (напр. посещение на лекар или посещение в болница).

Участниците са използвали стандартен модел на изкуствен интелект, задвижван от ChatGPT, GPT-4o, както и Command R+ на Cohere и Llama 3 на Meta, които някога са били в основата на асистента Meta AI. Според авторите, чатботовете не само намаляват вероятността участниците да откриват съответно здравословно състояние, но и увеличават вероятността от подценяване на тежестта на идентифицираните от тях състояния.

Махди казва, че участниците често пропускали ключови детайли, когато задавали въпроси на чатботовете, или получавали отговори, които били трудни за интерпретиране.

„…отговорите, които получаваха [от чатботове], често смесваха както добри, така и лоши препоръки“ — добавя той. „Съвременните методи за оценка на [чатботове] не отразяват сложността на взаимодействието с човешките потребители.“

Тези открития идват, тъй като технологичните компании все повече популяризират изкуствения интелект като начин за подобряване на здравето.  Според съобщенията Apple разработва инструмент, базиран на изкуствен интелект, който може да предоставя съвети за упражнения, диета и сън. Amazon проучва базиран на изкуствен интелект начин за анализ на медицински бази данни за „социални детерминанти на здравето“. И Microsoft помага за изграждането на изкуствен интелект, който да сортира съобщенията, изпратени до здравните специалисти от пациентите.  

Но както TechCrunch съобщи по-рано, експертите и пациентите имат смесени мнения относно това дали изкуственият интелект е готов за приложения в здравеопазването. Американската медицинска асоциация препоръчва лекарите да не използват чатботове като ChatGPT, за да подпомагат при клиничните решения, а големите компании за изкуствен интелект, включително и OpenAI, предупреждават да не се поставят диагнози въз основа на резултатите от техните чатботове.

„Препоръчваме да се разчита на надеждни източници на информация, за да се вземат решения относно здравеопазването“ — казва Махди. „Съвременните методи за оценка на [чатботове] не отразяват сложността на взаимодействието с човешките потребители. Подобно на клиничните изпитвания на нови лекарства, [чатбот] системите трябва да бъдат тествани в реални условия преди внедряването им.“