СЗО публикува принципите на етичното използване на ИИ в здравеопазването

Изкуственият интелект може да има огромни приноси в сферата на здравеопазването – на практика благодарение на него за първи път в човешката ни история, медицината има перспективата да успява да предсказва ефективно голяма част от заболяванията, още преди те да са се развили до тежка патологична фаза, както и да предлага методи за предотвратяването на последното. И макар и това да не е единственото приложение на технологията в сферата на здравето, то само тя е достатъчна, за да ви увери в огромния изследователски интерес в тази насока.

Именно поради последния, Световната здравна организация публикува документ с насоки, очертаващ шест ключови принципа за етичното използване на изкуствения интелект в сферата на здравеопазването. Двадесет експерти са прекарали две години в разработването на ръководството, което на практика представлява първия консенсусен доклад относно етиката на ИИ в здравните заведения.

Докладът подчертава и обещанията, които ИИ и неговия потенциал дават, да помогнат на лекарите да лекуват високоефективно пациенти от райони с ограничени ресурси. Но също така подчертава, че технологиите с ИИ могат да бъдат особено големи предизвикателства, особено в страните със средни и ниски доходи, и че правителствата и регулаторните органи трябва внимателно да използват къде и как изкуствения интелект се използва в сферата на здравето.

СЗО заяви, че се надява шестте принципа да бъдат основата за това как правителствата, разработчиците и регулаторите подхождат към технологията. Шестте принципа, измислени от експертите, са: защитена на автономията, насърчаване на безопасността и благосъстоянието на хората, осигуряване на прозрачност, насърчаване на отчетността, осигуряване на равни възможности за използване и отзивчиви и устойчиви инструменти.

Има десетки потенциални начини за използване на ИИ в здравеопазването. В момента се разработват приложения, които използват AI за сканиране на медицински изображения като мамографии, инструменти, които сканират здравните досиета на пациентите, за да се предскаже дали може да се разболеят, устройства, които помагат на хората да следят собственото си здраве, и системи, които помагат за проследяване на огнищата на заразни заболявания. В райони, където хората нямат достъп до лекари специалисти, инструментите могат да помогнат за оценка на симптомите. Но когато не са разработени и внедрени внимателно, те могат – в най-добрия случай – да не изпълнят обещанието си. В най-лошия случай те могат да причинят вреда.

Някои от клопките бяха ясни през изминалата година. В борбата с пандемията COVID-19 здравните институции и правителствата се обърнаха към инструментите за изкуствен интелект за решения. Много от тези инструменти обаче имаха някои от уязвимостите, за които предупреждава докладът на СЗО. В Сингапур правителството призна, че приложение за проследяване на социалните контакти е събирало данни, които също могат да бъдат използвани при разследване на криминални случаи – пример за експлоатиране на личните данни отвъд първоначално заложените цели и граници. Повечето програми с ИИ, които целят да откриват коронавирус със сканиране на гръдния кош, се основават на лоши данни, използвани за обучение, като в крайна сметка ефективността е ниска. Болниците в Съединените щати използваха алгоритъм, предназначен да предскаже кои пациенти с COVID-19 може да се нуждаят от интензивно лечение, преди това да стане наложително.

Докладът на СЗО също така признава, че много инструменти с изкуствен интелект са разработени от големи частни технологични компании, като Google или китайския технологичен гигант Tencent, или от партньорства между публичния и частния сектор. Тези компании разполагат с ресурси и данни за изграждането на тези инструменти, но може да нямат ясни стимули да приемат предложената етична рамка за техните продукти. Техният фокус може да бъде по-скоро върху печалбата, отколкото върху общественото благо. „Въпреки че тези компании могат да предложат иновативни подходи, има опасения, че в крайна сметка те биха могли да упражняват твърде голяма власт по отношение на правителства, доставчици и пациенти.“, се казва в доклада.

AI технологията в здравеопазването е все още нова и много правителства, регулатори и здравни системи все още измислят как да ги оценят и управляват. Внимателността и измерването в подхода ще помогнат да се избегнат потенциални вреди, се казва в доклада на СЗО. „Привлекателността на технологичните решения и обещанията, които те дават, могат да доведат до надценяване на ползите и отхвърляне на предизвикателствата и проблемите, които новите технологии като AI могат да въведат.“

Ето разбивка на шестте етични принципа в ръководството на СЗО и защо те имат значение:

• Защита на автономията: Хората трябва да имат контрол и последната дума за всички здравни решения – те не трябва да се вземат изцяло от машини и лекарите трябва да могат да ги отменят по всяко време. AI не трябва да се използва за прилагане на медицинска помощ на някого без неговото съгласие, като данните на пациентите трябва да бъдат напълно защитени.
• Насърчаване на безопасността: Разработчиците трябва непрекъснато да наблюдават всички инструменти за изкуствен интелект, за да се уверят, че работят както трябва и не причиняват вреда.
• Осигуряване на прозрачност: Разработчиците трябва да публикуват информация за дизайна на инструментите за изкуствен интелект. Една редовна критика към системите е, че те са „черни кутии“ и е твърде трудно за изследователите и лекарите да знаят как вземат решения. СЗО иска да види достатъчно прозрачност, за да могат те да бъдат напълно одитирани и разбрани от потребителите и регулаторите.
• Насърчаване на отчетността: Когато нещо се обърка с технологията с изкуствения интелект – например ако решение, взето от инструмент, доведе до увреждане на пациента – трябва да има механизми, определящи кой е отговорен (като производител или медицински екип).
• Осигуряване на справедливост: Това означава да се уверим, че инструментите са налични на множество езици, че са обучени за различни набори от данни. През последните няколко години внимателният контрол на често срещаните здравни алгоритми установи, че някои имат вградени расови пристрастия.
• Популяризиране на AI, който е устойчив: Разработчиците трябва редовно да актуализират своите инструменти и институциите трябва да имат начини да се приспособят, ако даден инструмент изглежда неефективен. Институциите или компаниите също трябва да въвеждат в употреба само инструменти, които могат да бъдат поправяни, дори в здравни системи с недостатъчно ресурси.