MD, Cand. Sci. (Medicine)
канд. мед. наук
MD, Cand. Sci. (Medicine)
канд. мед. наук
MD, Dr. Sci. (Medicine)
д-р мед. наук
MD, Dr. Sci. (Medicine), Professor
д-р мед. наук, проф.
The capabilities of artificial intelligence (AI) and machine learning are growing at an unprecedented pace. These technologies have many useful applications, from machine translation to medical image analysis.
A large number of such applications are currently being developed, and an increasing number of such applications is expected in the long term. Unfortunately, weaknesses and other unpleasant aspects of AI have received insufficient attention. In this review, we consider a whole range of already known problems and possible risks associated with the use of innovative neural network technologies, paying special attention to the ways of preventing real dangers and potential threats in order to expand the range of stakeholders and profile experts involved in the discussion of current issues of medical AI cybersecurity, formation of responsible approach to the vulnerabilities of neural network platforms, increasing the reliability of equipment protection for its safe use, as well as the importance of legal and ethical aspects of regulating the use of AI.
Despite certain challenges described in our review, it is clear that AI will be an important element of the healthcare future. As the population continues to age and the demand for healthcare services grows, neural networks are expected to drive healthcare very soon, especially in the areas of medical image analysis, virtual assistants, drug development, treatment recommendations and patients' data processing. We would like to emphasize that while we recognize the innovative role that digital technologies and AI can and should play in strengthening the domestic healthcare system, we should not overlook the importance of timely and accurate assessment of their beneficial or negative impact on the industry to ensure such management decisions do not unnecessarily divert our attention and resources from non-digital approaches and research.
This article is a continuation of the article by Berdutin VA, Romanova TE, Romanov SV, Abaeva OP. Problematic aspects of medical artificial intelligence. Part 1. Sociology of Medicine. 2023;22(2):202–211. DOI:
Возможности искусственного интеллекта (ИИ) и машинного обучения растут беспрецедентными темпами. Эти технологии имеют множество полезных применений: от машинного перевода до анализа медицинских изображений.
В настоящее время разрабатывается множество таких приложений, а в долгосрочной перспективе ожидается лавинообразное нарастание их числа. К сожалению, слабостям и иным неприятным сторонам ИИ уделяется недостаточно внимания. В данном обзоре мы рассматриваем целый спектр уже известных проблем и возможных рисков, связанных с использованием инновационных нейросетевых технологий, обращая особое внимание на способы предотвращения реальных опасностей и потенциальных угроз с целью расширить круг заинтересованных лиц и профильных экспертов, участвующих в обсуждении актуальных вопросов кибербезопасности медицинского ИИ, формирования ответственного подхода к уязвимостям нейросетевых платформ, повышения надёжности защиты оборудования для его безопасного использования, а также к важности правовых и этических аспектов регулирования применения ИИ.
Несмотря на отдельные проблемы, описанные в нашем обзоре, очевидно, что ИИ будет важным элементом будущего здравоохранения. Поскольку население продолжает стареть, а спрос на медицинские услуги растёт, ожидается, что нейронные сети совсем скоро будут выступать в роли движущей силы здравоохранения, особенно в областях анализа медицинских изображений, виртуальных помощников, разработки лекарств, рекомендаций по лечению и обработки данных пациентов. Мы хотели бы подчеркнуть, что, признавая инновационную роль, которую цифровые технологии и ИИ могут и должны играть в укреплении отечественной системы здравоохранения, не стоит упускать из виду, насколько важно своевременно и правильно оценивать их благоприятное или негативное влияние на отрасль, чтобы обеспечить такие управленческие решения, которые бы неоправданно не отвлекали наше внимание и ресурсы от нецифровых подходов и исследований.
Настоящая статья представляет собой продолжение статьи: Бердутин В.А., Романова Т.Е., Романов С.В., Абаева О.П. Проблемы медицинского искусственного интеллекта. Часть 1 // Социология медицины. 2023. Т. 22, № 2. С. 202–211. DOI: