Данните за обучение за медицински алгоритми основно идват от три американски щата

Повечето медицински алгоритми използвани в САЩ, са обучени с помощта на информация от американски пациенти, лекувани в Масачузетс, Калифорния и Ню Йорк, според ново проучване. Тези три щата доминират с броя пациенти, чиито данни са били използвани за обучение на изкуствен интелект, като интересни медицински случаи от други щати изобщо не са включвани в нито една научна разработка в сферата на Al, гласят констатациите от проучването. Изследването е публикувано тези седмица в Journal of American Medical Association. Тясното географско разпределение на данните, използвани в тези алгоритми, може да доведе до неуловимо пристрастие, твърдят авторите на изследването.

Алгоритмите, които изследователите са разгледали, са предназначени да вземат медицински решения въз основа на данните за пациентите, с които разполагат. Когато изследователите изграждат алгоритъм, който искат да участва в ръководенето на диагностиката на пациента, като например при изследване с рентгенография на гръдния кош и да решат дали има признаци на пневмония – те го захранват с реални данни и примери за пациенти, които имат и с такива, които нямат симптомите или заболяването, за които го обучават да открива. Всеизвестно е, че полът и расовото разнообразие са важни в тези тренировъчни данни: ако алгоритъмът получава информация само от рентгенови снимки на мъже, по време на обучението си, той може да не работи така добре, колкото е необходимо, когато му бъде предоставена рентгенова снимка на жена, която е хоспитализирана със затруднено дишане или друг симптом. Но докато изследователите са се научили да наблюдават и да избягват възникването на голяма част от възможните пристрастия, географията изглежда не е включена сред тях.

Авторът на изследването Амит Кашуал от Станфордския университет казва пред Stat News, че заедно с неговия екип са изследвали данни, използвани за обучение на 56 алгоритми, които са проектирани да се използват в области като дерматология, рентгенология и кардиология. Не е ясно колко от тях реално се използват в клиничната дейност на болниците. От 56 анализирани алгоритъма, 40 са използвали данни за пациенти от Масачузетс, Калифорния или Ню Йорк. Никой друг щат не е предоставял данни за обучение на повече от пет алгоритъма, а голяма част от щатите изобщо не са предоставяли медицински случаи за обучението на алгоритми.

Не е ясно дали и точно как географията може да изкриви ефективността на алгоритъма. Крайбрежните центрове като Ню Йорк обаче имат различни демографски характеристики и преобладаващи здравословни проблеми, отколкото щатите в Южния или Средния Запад. И все пак изследователите знаят като цяло, че алгоритмите, които работят при един набор от обстоятелства, понякога не работят добре с други. Някои изследвания показват, че алгоритмите могат да работят по-добре в институциите, в които са създадени, отколкото в други болници и клиники.

Много академични изследователски центрове, които извършват изследвания на изкуствен интелект и машинно обучение, са в здравни центрове като Масачузетс, Калифорния и Ню Йорк. Данните от Калифорния, дома на Силициевата долина, са включени в около 40 процента от алгоритмите. За изследователите е трудно да получат достъп до данни от институции, различни от тези, в които работят. Ето защо клъстерите от данни са структурирани основно по този начин. Разширяването на наборите от данни може да бъде предизвикателство, но изследването показва, че географията е друг фактор, който си струва да се проследи в медицинските алгоритми.