ИИ се е научил да идентифицира риска от домашно насилие няколко години преди хората да потърсят помощ

Учени са разработили AI-система, която може да помогне на лекарите да идентифицират риска от насилие от интимен партньор, преди жертвите да потърсят помощ. Алгоритъмът анализира медицинските данни на пациентите и идентифицира моделите на наранявания, типични за случаите на домашно насилие, съобщава EuroNews.

Американски изследователи създадоха ИИ-инструмент, който помага на лекарите да идентифицират пациентите с повишен риск от физическо или психологическо насилие на бивш или настоящ партньор. Технологията използва данни, събрани по време на рутинни посещения в болница, за да разкрива скритите модели на травма.

Насилието от интимен партньор може да доведе до сериозни наранявания, хронична болка и проблеми с психичното здраве. Болниците обикновено питат пациентите директно за безопасността им у дома, но много жертви мълчат поради страх, стигма или опасения за безопасността.

За да тестват ефективността на технологията, учените са използвали медицински досиета на близо 850 жени, преживели насилие от партньор, както и на над 5200 контролни субекта, съответстващи на възрастта им. Използвайки тези данни, те са създали три различни ИИ-системи. Резултатите от изследването са публикувани в списание Nature.

Първият модел анализира структурирани медицински данни —- по-специално възраст и медицинска история. Вторият работи с текстови медицински бележки и рентгенологични доклади, а третият комбинира двата вида информация. Комбинираната система демонстрира най-добри резултати, като правилно открива риска от насилие в 88% от случаите.

Алгоритъмът е успял да идентифицира потенциални случаи на насилие повече от три години преди пациентите да бъдат приети в болнични програми за борба с домашното насилие. Системата анализира големи количества медицински данни и идентифицира характерните модели на наранявания, които могат да показват риск.

Изследователите подчертават, че системата не замества лекарите, нито поставя диагнози. Тя просто сигнализира за потенциални рискове, така че медицинските специалисти да могат внимателно да разгледат темата и да предложат подкрепа.

В бъдеще учените планират да интегрират технологията в системите за електронни медицински досиета. Това ще позволи на болниците да получават автоматизирани оценки на риска по време на рутинни медицински прегледи.

Междувременно, проучване на Центъра за противодействие на дигиталната омраза (CCDH) установи, че популярните AI модели поддържат сценариите за насилствени атаки в 75% от случаите, предоставяйки подробни съвети за оръжия и тактики за атака. Докато Claude и My AI постоянно отказват да съдействат, системите ChatGPT и Gemini понякога генерират опасно съдържание, което подтиква разработчиците спешно да засилят протоколите за сигурност.

Препоръчваме статията „Насилие като услуга“: Престъпниците дигитализираха поръчковите убийства до ниво стартъп. Разказва се за използването на приложенията за криптиран чат като инструмент за набиране на тийнейджъри, които да извършват поръчкови убийства и други престъпления.