Проблемы медицинского искусственного интеллекта. Часть 2

Полный текст

Обоснование

Здравоохранение и медицинская практика претерпели значительные изменения в последние годы благодаря технологиям искусственного интеллекта (ИИ). Платформы ИИ открывают широкие перспективы, которые становятся известны медицинскому сообществу благодаря многочисленным научным публикациям, а также внедряемым повсеместно компьютерным приложениям и гаджетам. Данная публикация продолжает серию наших статей, посвящённых перспективным и проблемным аспектам использования систем ИИ в здравоохранении — от вопросов безопасного хранения персональной информации пациентов до рисков, связанных с развитием роботизированной хирургии. Мы стремимся привлечь внимание медицинского сообщества к ряду слабых сторон ИИ, возникающих в связи с использованием новых нейросетевых платформ. Кроме того, мы освещаем наиболее острые проблемы, описывая их потенциальное влияние и вызовы для системы здравоохранения. К одной из трудно решаемых проблем относится несанкционированный доступ к медицинским базам данных, который грозит негативными экономическими, психологическими и репутационными издержками. Сюда же можно отнести сложности со структурированием и нерелевантностью медицинской информации, поддержанием стабильности и робастности удалённого управления лечебно-диагностическим процессом, устранением аппаратных сбоев, а также с ускоренным решением задачи воспитания информационной грамотности медицинского персонала и т. д.

За последние 10-летия значительно возросло внимание к этическим аспектам применения медицинского ИИ. Среди прочего, активно обсуждаются экзистенциальные риски, связанные с дальнейшим развитием общего или сильного искусственного интеллекта — пока лишь гипотетической, но крайне опасной формы ИИ, способной на гораздо более быстрые и сложные действия, чем человек. Это привело к активным исследованиям того, как человечество может избежать потери контроля над ИИ, который превосходит по интеллекту лучших из нас. Отрадно, что сейчас начали активно разрабатываться дружественные платформы медицинского ИИ, т. е. гарантированно невраждебная для людей система, приоритетом которой является этико-деонтологическая направленность ИИ и личностные ценности пациента. В наших публикациях мы кратко рассматриваем ряд конкретных вопросов, связанных с использованием ИИ и машинного обучения (МО) в медицине, таких как справедливость, конфиденциальность, анонимность, интерпретируемость, а также более широкие социальные аспекты, включая этику и законодательство. Все эти аспекты необходимо учитывать для повышения общественного принятия технологий ИИ, обеспечения их соответствия развивающейся нормативно-правовой базе цифрового здравоохранения [1–6].

О неудачах медицинского искусственного интеллекта

Специалисты в области информационных технологий прекрасно осведомлены о проблеме снижения производительности платформы ИИ после её развертывания в реальных условиях. По очевидным причинам мелкие неудачи и даже крупные провалы разработчики стараются не афишировать. Однако публичные скандалы с гигантами ИТ-индустрии замолчать трудно, и они уже не единожды становились достоянием гласности. Один из самых громких произошёл, когда компания Google Verily Health Sciences провела полевые испытания своей системы для выявления диабетической ретинопатии в Таиланде. Как исследователи описали в академической статье [7], система работала плохо из-за недостаточного освещения и наличия большого количества изображений с низким разрешением: 21% изображений, которые техники пытались ввести, были отклонены моделью как неподходящие. Для остальных изображений авторы не раскрывают показатели точности, но говорят, что производительность заметно снизилась. Системе также часто требовалось много времени для запуска, поскольку изображения приходилось загружать в облако, что уменьшало количество людей, которых клиника могла обрабатывать каждый день.

Обнаружение рака кожи с помощью смартфона — одно из самых многообещающих направлений применения ИИ. Тем не менее каждая тестируемая сегодня система обнаружения рака кожи не может избежать ошибок, когда речь идёт о небелой коже. Недавнее исследование количественно оценило это для трёх коммерческих систем: ModelDerm, DeepDerm, HAM 10000. Ни одна из систем не работала лучше, чем врач-специалист, и все они продемонстрировали значительное снижение производительности между светлой и тёмной кожей. Для двух систем падение чувствительности составило около 50% в двух наборах задач (0,41→0,12, 0,45→0,25, 0,69→0,23, 0,71→0,31). Третья модель на самом деле продемонстрировала худшую чувствительность для более светлой кожи, но она также оказалась полностью несостоятельной в рабочей точке, которую использовал производитель, достигнув чувствительности <0,10 по всем направлениям. Кроме того, было обнаружено, что дерматологи, которые обычно предоставляют визуальные метки для обучения ИИ и тестовых наборов данных, также хуже работают с изображениями тёмных тонов кожи и необычных заболеваний по сравнению с аннотациями биопсии [8].

Диагностика рака молочной железы посредством маммографии, вероятно, является наиболее изученным применением компьютеров в медицинской визуализации, насчитывающей целые 10-летия. В середине 2010-х годов было выпущено несколько пакетов программного обеспечения для автоматизированного обнаружения в маммографии Computer Aided Detection (CAD), имевшее многочисленные недостатки из-за чего врачи-рентгенологи до сих пор упускают из виду 16% случаев рака молочной железы. Данное обстоятельство могло бы послужить идеальным приложением способностей ИИ, но, несмотря на интенсивные усилия в этом направлении, продолжающиеся более 20 с лишним лет, истинный уровень рентгенолога-эксперта пока не достигнут. Многообещающие результаты в небольших исследованиях не воспроизводятся в более крупных исследованиях. Один из последних отзывов, опубликованный в сентябре 2021 года, сообщил, что 34 из 36 (94%) систем ИИ оказались менее точны, чем заключения одного врача; и все модели фреймвёрков были менее точными, чем консенсус двух или более специалистов. Системам искусственного интеллекта не хватило специфичности, чтобы заменить двойное чтение снимков врачом-рентгенологом в программах скрининга [9]. Стоит ли говорить, что все недостатки ИИ в радиологии, возникающие как по вине государственных, так и частных структур, подрывают доверие медицинского сообщества к ИИ. А ведь для восстановления утраченного доверия может потребоваться очень много времени и усилий.

Модель Epic Sepsis Model (ESM) была внедрена в сотнях клиник США для наблюдения за пациентами и отправки предупреждений, если они подвергались высокому риску сепсиса. Модель использует комбинацию данных мониторинга отделения неотложной помощи в режиме реального времени: частота сердечных сокращений, артериальное давление и т. д., а также демографическую информацию и информацию из медицинских карт пациента. Всего используется более 60 функций. Диагноз сепсиса устанавливался моделью на основе критериев из рекомендаций Центра по контролю и профилактике заболеваний и Международной классификации 10-го пересмотра, при наличии двух критериев, характерных для синдрома системного воспаления и одного критерия органной дисфункции, зафиксированных в течение 6 ч. Дискриминация модели оценивалась с использованием площади под кривой рабочей характеристики приёмника данных на уровне госпитализации и с горизонтами прогнозирования 4, 8, 12 и 24 ч. Внешняя проверка показала очень низкую производительность модели (AUC 0,63 против заявленных AUC 0,73 и 0,83). Из 2552 пациентов с сепсисом было выявлено только 33%, что вызвало много ложных тревог. Инициативная группа судебно-медицинских экспертов провела расследование подхода ESM к прогнозированию сепсиса, чтобы показать, как сдвиги в распределении данных могут привести к ошибкам модели машинного обучения. Было обнаружено, что изменения в стандартах кодирования способствовали снижению производительности ESM с течением времени, и что ложная корреляция в обучающих данных модели также сыграла негативную роль [10].

Самым резонансным провалом отличилась IBM со своим подразделением Watson Health. Поднятая в прессе шумиха была настолько велика, что начинали ходить слухи о «зиме ИИ». Развивая успех своей системы Watson для игры в Jeopardy, около 10 лет назад IBM запустила Watson Health, чтобы революционизировать здравоохранение с помощью ИИ. Всё началось с разрекламированного партнёрства с Memorial Sloan Kettering для обучения ИИ на данных EHR для выработки рекомендаций по лечению. Генеральный директор IBM Дж. Рометти назвала это «нашим лунным выстрелом». На пике своего развития в Watson Health работало 7 тыс. человек. Однако совсем недавно IBM распродала всю Watson Health по частям примерно за 1 млрд долларов. Для сравнения — затраты IBM при создании Watson Health составили более 5 млрд долларов. Руководители IBM, должно быть, посчитали, что у подразделения нет абсолютно никаких шансов стать безубыточным, и решили срочно его ликвидировать. Бескомпромиссное разоблачение истории краха Watson Health можно найти на портале https://slate.com. Центральная тема публикации звучит так: «когда вы пытаетесь объединить браваду высоких технологий с готовностью достичь заявленных целей в сфере здравоохранения, вам предстоит предоставить абсолютно неопровержимые доказательства того, что вы в силах достичь того, о чём говорите». Предполагалось, что Watson Health изменит здравоохранение во многих важных аспектах, предоставляя онкологам информацию о лечении больных раком, фармацевтическим компаниям — о разработке лекарств, помогая проводить клинические испытания и т. п. Это звучало революционно, но на самом деле никогда не работало, потому что IBM постоянно нуждалось в огромном количестве данных для обучения модели, которых просто было невозможно найти даже за большие деньги. Партнёры IBM, такие как Онкологический центр Андерсона в Техасе, один за другим отказывались от сотрудничества, после того, как участвующие в проекте врачи жаловались, что у программы недостаёт данных, чтобы выдавать нужные рекомендации [11].

Нейросети и их предубеждения

Среди многих опасений по поводу ИИ, которые привлекают внимание медицинской общественности, наиболее спорной и вместе с тем актуальной выступает проблема выявления предубеждений в алгоритмах ИИ. Ранее мы уже вскользь упоминали о неприятностях, которые связаны с проблемой систематических ошибок, которые вызваны отсутствием верифицированных датасетов, не идентифицированными алгоритмами, неправильной классификацией, погрешностями наблюдений и неграмотным обслуживанием программного обеспечения. Обоснованное беспокойство по поводу возникновения предубеждений у ИИ в ходе эксплуатации мотивировало стремление разработчиков строить справедливые свободные от ангажированности модели, что является весьма похвальным, но на деле оказывается отнюдь не лёгким делом. Справедливая модель ИИ представляется свободной от предвзятости прогностической адаптивной моделью. Она не должна быть как бы заблокированной от внешнего мира, т. е. не должна «вариться в собственном соку». Напротив, нейросеть должна продолжать обучение, постоянно улучшая свою производительность, что со временем приведет её к реализации в качестве полноправного администратора электронной медицинской карты (ЭМК). Таким образом, будущая гипотетическая справедливая модель сможет самостоятельно функционировать в режиме поддержки принятия решений, который, однако, не будет автономным, т. е. врачи и пациенты сохранят за собой право принятия окончательного решения [12, 13].

Вместе с тем даже такая, казалось бы, максимально справедливая модель может прямо или косвенно обладать, так называемыми скрытыми предубеждениями. Точно так же, как скрытые ошибки обычно описываются как ожидающие своего проявления ошибки, в сложных программных фреймворках под скрытыми предубеждениями понимают ожидающие своего проявления предубеждения. Принято выделять три основные проблемы, связанные с предвзятостью в алгоритмах ИИ.

1. Первая серьёзная проблема, связанная с предвзятостью, для этого гипотетически справедливого алгоритма заключается в том, что, будучи адаптивной моделью, он со временем может стать предвзятым. Это может произойти несколькими способами. Алгоритм ИИ, обученный работать справедливо в одном контексте, способен извлечь уроки из различий в производственной деятельности медицинской организации и начать генерировать предвзятые результаты. Также нейросеть может сама учиться на широко распространённых, традиционных и порой нелепых предубеждениях, встречающихся в сфере российского здравоохранения, которые так или иначе ведут к нежелательным и даже весьма неприятным последствиям.

Скажем, алгоритм для прогнозирования смертности пациентов или индивидуальной реакции пациента на определённые методы лечения вполне может сориентироваться на существующие этнические или социально-экономические различия условий жизни каких-то групп пациентов и предсказать для них худшие результаты лечения. Но таким способом может быть создана петля отрицательной обратной связи, в результате которой предубеждения со временем будут усиливаться, что ещё больше усугубит отклоняющийся от нормы прогноз модели. С клинической точки зрения такая девиация нежелательна, т. к. корректный прогноз позволил бы перенаправить ресурсы здравоохранения именно в узкие места и дать правильные рекомендации по последующему медицинскому обслуживанию, например, по укреплению системы паллиативной помощи для социально незащищённых слоёв населения. Что ещё более важно, теперь хорошо известно, что генерация предвзятостей вполне возможна, даже если ИИ запрещено делать выводы на основе некой переменной, допустим национальности или адреса пациента, когда дата-сет не включает таковую переменную. К сожалению, это может произойти, если другие переменные коррелируют или являются прокси для запретной переменной, что делает стратегию по исключению вызывающих озабоченность переменных бесперспективной.

2. Следующий набор проблем, связанных с предубеждениями, возникает из-за взаимодействия ИИ с клинической средой, которая включает свои собственные неявные и явные предубеждения. Следует отметить два феномена в рамках взаимодействия пациента и врача. Одним из них является феномен предвзятости автоматизации, иначе говоря, некритичное отношение к рекомендациям ИИ, которым следует неукоснительно подчиняться. Даже алгоритм, который используется просто как инструмент поддержки принятия решений, может де-факто стать настоящим автократом, если его рекомендации начнут выполняться безоговорочно. Загруженные работой и ограниченные временными рамками врачи, которые к тому же избегают юридической ответственности за игнорирование рекомендаций алгоритма, могут не обратить внимания на предвзятость ИИ. Кроме того, выделяют феномен предвзятости привилегий, т. е. непропорциональное преимущество лиц, которые уже имеют привилегии. Даже максимально честный алгоритм может быть несправедливым, если он применяется только в определённых условиях, например, в частных клиниках, обслуживающих главным образом состоятельных граждан. Классовое недоверие прекориата к элитарным медицинским организациям, в которых в первую очередь и будет использоваться ИИ, в итоге может вылиться в повальное недоверие пациентов к его рекомендациям [14, 15].
3. Третий вид предвзятости, возможный даже у честных алгоритмов, связан с выбором цели создания модели, её заинтересованностью в определённом результате. Этот вид в чём-то напоминает первый. Однако, если интересующие исследователей исходы или выбранные для решения с помощью ИИ проблемы не отражают интересы отдельных пациентов или сообщества, это, по сути, и есть предвзятость — предпочтительный выбор или поощрение одного исхода по сравнению с другими. Иллюстрацией сказанному будет следующее. Одна из причин, по которой многие клинические испытания не смогли улучшить качество медицинской помощи, заключается в выборе суррогатов итогов исследований, которые напрямую не связаны с фактом выздоровления больного. Например, исходы лечения сердечной недостаточности оценивались только по изменениям физиологических параметров (фракции выброса левого желудочка), а не по убыванию симптоматики заболевания: снижению утомляемости и повышению толерантности к физической нагрузке. Результаты, представляющие интерес для одних групп стейкхолдеров, могут быть совсем не интересны другим и наоборот. Пациенты больше всего беспокоятся о восстановлении собственного здоровья и снижении затрат на лечение, их мало заботит эффективность системы здравоохранения как таковой. Поэтому перед внедрением алгоритмов ИИ в повседневную клиническую практику мы рекомендуем проводить мероприятия по учёту рисков и профилактике предубеждений.

Решения ИИ с высокими рисками, например, о химиотерапевтическом лечении или проведении искусственной вентиляции лёгких, решения о материальных ресурсах, которые пациенты хотят получить от государства (социальная поддержка при инвалидности), а также автоматизированные и трудно оспариваемые решения заслуживают особо пристального внимания медицинского сообщества. Сегодня нередко встречаются модели, которые продуцируют утверждения типа: «Подобные вам, гражданин N, пациенты в аналогичной ситуации выбрали то-то и то-то». Подобный алгоритм должен считаться предвзятым из-за адаптивных предпочтений, потому что на его выбор, очевидно, могут влиять устаревшие или ненадлежащим образом интерпретированные варианты решений. К сожалению, нам не известны факты учёта опасений в отношении предвзятости ИИ. А ведь возникающие с течением времени предубеждения алгоритмов следует рассматривать как неблагоприятные события; на практике они означают, что некоторым пациентам может быть нанесён ущерб. Разрозненные действия ИИ, возникающие под влиянием предубеждений и причиняющие вред пациентам, должны стать предметом обязательной регистрации в отчётности о работе интеллектуальных медицинских устройств. Поскольку мы привыкли, что врач всегда контролирует, когда лекарственный препарат полезен одним пациентам, но вреден другим, то ожидаемо, что аналогичное требование должно быть предъявлено алгоритмам ИИ.

Аберрации в алгоритмах ИИ могут возникать не только из-за необъективности обучающих данных, но и из-за того, как нейросети обучаются с течением времени и используются на практике. Учитывая распространённость предубеждений, нет оправдания беспечному отношению к ним. Неспособность активно избавляться от предубеждений, особенно скрытых, которые проявляются неожиданно, лишь усугубляет неравенство различных групп пациентов, подрывает доверие общества к системе здравоохранения и, как это ни парадоксально, в конечном итоге, мешает ускоренному внедрению медицинского ИИ [16].

Данные аналитических отчётов международных организаций, затрагивающих тему трудностей, связанных с технологиями медицинского искусственного интеллекта

На фоне повышенного интереса к цифровому здравоохранению наблюдается большое количество внедрений ИИ без тщательного изучения доказательной базы преимуществ и вреда. Избыточный энтузиазм в отношении цифровизации привёл к распространению недолговечных реализаций и огромному разнообразию цифровых инструментов с ограниченным пониманием их влияния на систему здравоохранения и благополучие людей. Эксперты Всемирной организации здравоохранения по этому поводу заявили: «Для улучшения здоровья и уменьшения неравенства в отношении здоровья необходима тщательная оценка электронного здравоохранения для получения фактических данных и содействия надлежащей интеграции и использованию технологий» [17].

В последнее время вышло сразу несколько интересных аналитических отчётов, затрагивающих тему искусственного интеллекта в здравоохранении. Приведём некоторые выдержки из них. KLAS Research и Колледж руководителей по управлению информацией в области здравоохранения (CHIME) опубликовали отчёт «Healthcare AI 2019. Actualizing the potential of artificial intelligence» о первых реальных кейсах встраивания систем ИИ в практическую медицину, которые касались прогнозирования повторных госпитализаций и снижения необоснованных вызовов неотложной помощи. KLAS и CHIME провели опрос среди 57 медицинских организаций, которые недавно внедрили системы на основе машинного обучения (ML) и обработки естественного языка (NLP), с целью оценки достижений в клинической, финансовой и операционной областях. KLAS оценил удовлетворённость клиентов для шести ведущих поставщиков ИИ для здравоохранения: Jvion, DataRobot, KenSci, Clinithink, IBM Watson Health and Health Catalyst. Среди прочего особое внимание в отчёте было сосредоточено на неудачах IBM Watson, авторы исследования пришли к выводу, что корпорации IBM так и не удалось исправить ситуацию со своим продуктом [18].

OptumIQ опубликовали отчёт «Annual Survey on AI in Health Care», в котором проанализировали опрос 500 руководителей организаций здравоохранения и пришли к выводу, что число внедрений ИИ в медицине увеличилось почти на 88% по сравнению с предыдущим годом. Авторы отмечают скепсис отдельных авторитетных организаторов здравоохранения в вопросе о дальнейшем росте инвестиций в ИИ, поскольку они совсем не уверены, что произведённые затраты окупятся хотя бы в течение трёхлетнего периода [19]. CB Insights опубликовала отчёт, согласно которому, несмотря на резкий рост интереса инвесторов к ИИ в здравоохранении в 2019 году, в дальнейшем возможно охлаждение инвестиционного климата. Тревожный звонок поступил от компании Freenome, использующей нейросеть для раннего выявления рака, которая в июле 2019 г. закрыла раунд финансирования на этапе B стоимостью 160 млн долларов [20].

Центр инноваций в области здравоохранения Американской ассоциации больниц выпустил отчёт «AI and Care Delivery: Emerging opportunities for artificial intelligence to transform how care is delivered». В нём исследуется использование ИИ в качестве инструмента поддержки принятия клинических решений, основываясь на мнениях экспертов в сфере здравоохранения. В докладе, в частности, рассматриваются способы решения многочисленных проблемных вопросов, в т. ч. снижения гигантских затрат на ИИ в ходе всего цикла оказания медицинской помощи [39]. MIT Technology Review выпустил отчёт «Эффект ИИ. Как искусственный интеллект делает здравоохранение более человечным». В нём представлены данные опроса более 900 медицинских работников, проведённого MIT Technology Review Insights совместно с GE Healthcare. Обзор показал, что лишь 72% респондентов проявили прямой интерес к внедрению ИИ. 20% респондентов считают, что ИИ не сможет улучшить их экономическое положение, а 19% что ИИ не способен сделать медицинское учреждение более конкурентоспособным и клиентоориентированным. Поскольку инвестиции в медицинский ИИ заметно набирают обороты, респонденты, уже реализующие проекты глубокого обучения, с тревогой думают о том, что с каждым годом они будут тратить всё больше и больше средств на обслуживание алгоритмов. Эти выводы являются очень важны для отрасли, т. к. оказание медицинской помощи и управление ею становятся всё более сложными и дорогостоящими, а профессиональный и технологический потенциал становится всё более обременительным. На фоне того, что медики увязли в рутине постоянно увеличивающейся рабочей нагрузки и бестолковой низкооплачиваемой работы, частичная их замена чат-ботами окончательно лишит пациентов живого взаимодействия с врачами [21].

Компания KPMG выпустила отчёт «Healthcare insiders: Taking the temperature of artificial intelligence in healthcare». В нём подтверждается рост интереса к применению ИИ в медицине. Однако негативным моментом является то, что 32% респондентов не видят перспективы ИИ для объективной оценки состояния пациентов. Основными барьерами на пути ИИ названы нехватка квалифицированных кадров, высокие затраты на создание ИИ-систем и высокие риски нарушения конфиденциальности [22].

Проблемные аспекты использования различных алгоритмов машинного обучения

K-Nearest Neighbours (KNN), Random Forest (RF) и eXtreme Gradient Boosting (XGBoost) считаются самыми популярными алгоритмами машинного обучения. Они различаются своими подходами, сильными и слабыми сторонами, вариантами использования. Если быть краткими, то различие этих алгоритмов состоит в следующем.

1. KNN простой и универсальный алгоритм, используемый как для задач классификации, так и для задач регрессии. Он работает по принципу поиска k-ближайших точек данных к заданной точке запроса на основе метрики расстояния. При классификации KNN назначает класс большинства среди k-ближайших соседей в качестве прогнозируемого класса для точки запроса. В регрессии KNN принимает среднее или средневзвешенное значение целевых значений k-ближайших соседей в качестве прогнозируемого значения для точки запроса. KNN непараметричен, т. е. не делает предположений о базовом распределении данных. Это требует больших вычислительных мощностей, особенно для больших наборов данных, ибо нужно делать расчёты расстояний для всех точек данных.
2. Random Forest — метод ансамблевого обучения, основанный на деревьях решений и в основном используемый для задач классификации и регрессии. Во время обучения он создает несколько деревьев решений, где каждое дерево обучается на случайном подмножестве функций и данных начальных выборок. При классификации окончательный прогноз основывается на большинстве голосов отдельных деревьев. Для регрессии требуется среднее предсказание отдельных деревьев. RF смягчает переобучение и обеспечивает хорошее обобщение за счёт объединения прогнозов из нескольких деревьев. Он хорошо обрабатывает многомерные данные и менее подвержен выбросам.
3. XGBoost — это усовершенствованный алгоритм повышения градиента, используемый для задач классификации, регрессии и ранжирования. Как RF, он также работает с ансамблем деревьев решений, но строит деревья последовательно, а не независимо. XGBoost использует систему повышения градиента для оптимизации ансамбля путём минимизации функции потерь. Он использует методы регуляризации, чтобы избежать переобучения и улучшить производительность модели. XGBoost эффективен в вычислительном отношении и может эффективно обрабатывать большие наборы данных. Он часто превосходит другие алгоритмы в различных соревнованиях по машинному обучению и реальных приложениях.

Применение перечисленных моделей машинного обучения зависит от конкретной задачи, для которой собираются их использовать, например, регрессии или классификации. Если говорить в целом, то нужно учитывать следующие особенности данных моделей.

K-Nearest Neighbours прост и интуитивно понятен, применим как для задач классификации, так и для задач регрессии. В KNN прогноз для новой точки данных основан на классе большинства (для классификации) или среднем значении её K-ближайших соседей (для регрессии) в пространстве признаков. Значение K — это гиперпараметр, который определяет, сколько соседних точек следует учитывать. Преимущества алгоритма:

• Легко понять и реализовать.
• Непараметрический, т. е. не делается никаких предположений относительно основного распределения данных.
• Хорошо работает на небольших наборах данных с простыми границами принятия решений.

Недостатки:

• Может оказаться дорогостоящим в вычислительном отношении для больших наборов данных, поскольку требует расчёта расстояний до всех точек данных.
• Чувствителен к несущественным функциям и шуму.
• Плохо обрабатывает несбалансированные наборы данных.

RF является методом ансамблевого обучения, который объединяет несколько деревьев решений для получения более точных прогнозов. Во время обучения он строит несколько деревьев решений и усредняет их прогнозы для повышения надёжности и точности. Каждое дерево обучается на случайном подмножестве данных и случайном подмножестве признаков, что смягчает переобучение и увеличивает обобщение. Преимущества:

• Устойчив к переобучению и хорошо работает с широким диапазоном типов данных.
• Хорошо обрабатывает многомерные данные.
• Может предоставить рейтинг важности функций.

Недостатки:

• Может быть медленным в обучении и прогнозировании больших наборов данных.
• Не хватает прозрачности и интерпретируемости по сравнению с отдельными деревьями решений.
• При выполнении некоторых сложных задач может работать не так хорошо, как более продвинутые модели типа XGBoost.

XGBoost — это расширенная реализация повышения градиента, которая представляет собой ансамблевую технику, объединяющую слабые деревья решений для создания сильной прогнозирующей модели. XGBoost совершенствует традиционное повышение градиента за счёт включения условий регуляризации, параллельной обработки и эффективной манипуляции данными для достижения более высокой точности и скорости. Преимущества:

• Высокая прогностическая эффективность благодаря механизму бустирования.
• Хорошо обрабатывает мало репрезентативные данные.
• Поддерживает регуляризацию для предотвращения переобучения.
• Быстрый и масштабируемый благодаря распараллеливанию.

Недостатки:

• Требует настройки гиперпараметров, что может занять много времени.
• Более сложные, чем базовые модели, такие как KNN и Random Forest.
• Склонен к переобучению, если не был хорошо настроен.

Итак, подведём итоги. KNN — простой и интерпретируемый алгоритм, подходящий для небольших наборов данных, а Random Forest — мощный ансамблевый метод, обеспечивающий надёжную производительность и важность функций. XGBoost представляет собой усовершенствованный алгоритм повышения точности, который отличается высокой точностью и подходит для крупномасштабных наборов данных. Выбор модели зависит от конкретных характеристик входных данных, размера дата-сетов и желаемого баланса между простотой и производительностью прогнозирования [23, 24].

Заключение

Хотя сотни алгоритмов ИИ получают одобрение от государственных надзорных органов здравоохранения в разных странах, например, в США таким органом является Управление по контролю за продуктами и лекарствами US Food and Drugs Administration (FDA), как было показано в нашем обзоре, нейросетевые платформы так или иначе проявляют склонность к скрытой предвзятости и выдаче противоречивых обобщений, особенно при недостаточности или некорректности анализируемых данных. Сохраняется слабая надежда на то, что генеративный ИИ мог бы снизить потребность в реальных данных, но его полезность, тем не менее, остаётся не до конца очевидной. Дерматологические заболевания служат весьма показательным примером создания синтетических изображений из-за разнообразия патологических проявлений, особенно с учётом цвета и тона кожи пациента. Масштабируемые алгоритмы скрытой диффузии могут генерировать изображения кожных заболеваний для дополнительного обучения модели, что, безусловно, может повысить её производительность в условиях ограниченных данных. Однако прирост производительности достигается при соотношении синтетического и реального изображений более 10:1; он существенно меньше, чем прирост, получаемый от добавления реальных изображений, поэтому сбор объективных данных остаётся главным условием для обеспечения надёжности медицинского ИИ.

Медицинский искусственный интеллект — потенциально мощный инструмент, функционирование которого сопряжено с множеством проблем. Чтобы грамотно и успешно использовать эту прогрессивную, но пока ещё несовершенную технологию, не выпуская «джина из бутылки», нам нужны эффективные стратегии и продуманное управление. Это потребует подготовки врачебных кадров совершенно нового уровня, которые смогут активно и методично участвовать в разработке, тестировании и использовании сложнейших инновационных моделей нейронных сетей. Это, в свою очередь, потребует коренного пересмотра и полного обновления программ для обучения и сертификации специалистов в области цифровой медицины, в т. ч. подрастающего поколения будущих специалистов в области цифрового здравоохранения, которые смогут гарантированно обеспечить безопасность ИИ в клинической среде. Такие шаги будут необходимы для поддержания общественного доверия к медицине в грядущую эпоху ИИ.

Несмотря на все описанные нами в статье проблемы, ясно, что ИИ станет важной частью будущего здравоохранения. Поскольку население продолжает стареть, а спрос на медицинские услуги растёт, ожидается, что нейросети будут играть решающую роль в здравоохранении — прежде всего в таких направлениях, как анализ медицинских изображений, работа виртуальных помощников, разработка новых лекарств, формирование рекомендаций по лечению и обработка данных пациента. Усовершенствованные алгоритмы ИИ смогут анализировать снимки КТ, МРТ, ПЭТ-КТ с уровнем точности, сравнимым или даже превышающим точность специалистов-рентгенологов. Всё это в целом может помочь врачам точнее диагностировать заболевания и быстрее оценивать состояния больных, что приведёт к повышению качества и доступности оказания медицинской помощи в стране. Однако для достижения столь амбициозных целей нам потребуется реально прагматичные действия и ответственное отношение к технологиям ИИ. Создаваемая нормативно-правовая база, регулирующая алгоритмы искусственного интеллекта и машинного обучения, должна прямо включать ссылку на отслеживание отклонений в производительности, в т. ч. возникающих в процессе эксплуатации.

В заключение хотелось бы подчеркнуть, что, признавая инновационную роль, которую цифровые технологии и ИИ могут и должны играть в укреплении системы отечественного здравоохранения, нельзя упускать из виду, как важно вовремя и правильно оценивать их содействующее или негативное влияние на отрасль, чтобы обеспечивать такие управленческие решения, которые бы не отвлекали ненадлежащим образом ресурсы от альтернативных, нецифровых подходов.

Дополнительная информация

Настоящая статья представляет собой продолжение статьи: Бердутин В.А., Романова Т.Е., Романов С.В., Абаева О.П. Проблемы медицинского искусственного интеллекта. Часть 1 // Социология медицины. 2023. Т. 22, № 2. С. 202–211. DOI: https://doi .org/10 .17816/socm619132

Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов.

Источник финансирования. Отсутствует.

Вклад авторов. Все авторы подтверждают соответствие своего авторства международным критериям ICMJE. Наибольший вклад распределён следующим образом: все авторы — концепция обзора, сбор и обработка материала; В.А. Бердутин — написание текста; Т.Е. Романова — редактирование.

Об авторах

Виталий Анатольевич Бердутин

Государственный научный центр Российской Федерации — Федеральный медицинский биофизический центр имени А.И. Бурназяна

Автор, ответственный за переписку.
Email: vberdt@gmail.com
ORCID iD: 0000-0003-3211-0899
SPIN-код: 8316-7111

канд. мед. наук

Россия, Москва

Татьяна Евгеньевна Романова

Приволжский исследовательский медицинский университет

Email: drmedromanova@gmail.com
ORCID iD: 0000-0001-6328-079X
SPIN-код: 4943-6121

канд. мед. наук

Россия, Нижний Новгород

Сергей Владимирович Романов

Приволжский окружной медицинский центр

Email: director@pomc.ru
ORCID iD: 0000-0002-1815-5436
SPIN-код: 9014-6344

д-р мед. наук

Россия, Нижний Новгород

Ольга Петровна Абаева

Государственный научный центр Российской Федерации — Федеральный медицинский биофизический центр имени А.И. Бурназяна

Email: abaevaop@inbox.ru
ORCID iD: 0000-0001-7403-7744
SPIN-код: 5602-2435

д-р мед. наук, проф.

Россия, Москва

Список литературы

Дополнительные файлы