Digital DiagnosticsDigital DiagnosticsDigital DiagnosticsDigital Diagnostics2712-84902712-8962Eco-Vector7744610.17816/DD77446ReviewsНаучные обзоры科学评论Review ArticleOn the issue of ethical aspects of the artificial intelligence systems implementation in healthcareК вопросу об этических аспектах внедрения систем искусственного интеллекта в здравоохранении关于在医疗保健中实施人工智能系统的伦理方面https://orcid.org/0000-0001-5792-39121811-7595SharovaDaria E.ШароваДарья ЕвгеньевнаSharovaDaria E.
Russian Federation
d.sharova@npcmr.ruhttps://orcid.org/0000-0002-2307-725X4188-0635ZinchenkoViktoria V.ЗинченкоВиктория ВалерьевнаZinchenkoViktoria V.
Russian Federation
v.Zinchenko@npcmr.ruhttps://orcid.org/0000-0002-8235-93615891-4384AkhmadEkaterina S.АхмадЕкатерина СергеевнаAkhmadEkaterina S.
Russian Federation
e.Akhmad@npcmr.ruhttps://orcid.org/0000-0002-7826-51358088-9921MokienkoOlesia A.МокиенкоОлеся АлександровнаMokienkoOlesia A.
Russian Federation

MD, Dr. Sci. (Med.)

доктор медицинских наук

MD, Dr. Sci. (Med.)

o.Mokienko@npcmr.ruhttps://orcid.org/0000-0002-2990-77363602-7120VladzymyrskyyAnton V.ВладзимирскийАнтон ВячеславовичVladzymyrskyyAnton V.
Russian Federation

MD, Dr. Sci. (Med.)

доктор медицинских наук

MD, Dr. Sci. (Med.)

a.Vladzymyrskyy@npcmr.ruhttps://orcid.org/0000-0001-6545-61708542-1720MorozovSergey P.МорозовСергей ПавловичMorozovSergey P.
Russian Federation

MD, Dr. Sci. (Med.), Professor

доктор медицинских наук, профессор

MD, Dr. Sci. (Med.), Professor

Morozov@npcmr.ruMoscow Center for Diagnostics and TelemedicineНаучно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. МосквыMoscow Center for Diagnostics and Telemedicine2209202115102021233563680608202108092021Copyright ©; 2021, Sharova D.E., Zinchenko V.V., Akhmad E.S., Mokienko O.A., Vladzymyrskyy A.V., Morozov S.P.Copyright ©; 2021, Шарова Д.Е., Зинченко В.В., Ахмад Е.С., Мокиенко О.А., Владзимирский А.В., Морозов С.П.Copyright ©; 2021, Sharova D.E., Zinchenko V.V., Akhmad E.S., Mokienko O.A., Vladzymyrskyy A.V., Morozov S.P.2021Sharova D.E., Zinchenko V.V., Akhmad E.S., Mokienko O.A., Vladzymyrskyy A.V., Morozov S.P.Шарова Д.Е., Зинченко В.В., Ахмад Е.С., Мокиенко О.А., Владзимирский А.В., Морозов С.П.Sharova D.E., Zinchenko V.V., Akhmad E.S., Mokienko O.A., Vladzymyrskyy A.V., Morozov S.P.https://creativecommons.org/licenses/by-nc-nd/4.0https://jdigitaldiagnostics.com/DD/article/view/77446

The article analyzes ethical issues inherent to different life-cycle stages of artificial intelligence systems and provides up-to-date information about global and domestic trends in this area. The international and national experience concerning ethical issues of artificial intelligence systems use in healthcare is described. In addition, the international and national strategies for the development of artificial intelligence in healthcare are analyzed focusing on the national development; and the main trends, similarities, and differences between strategies are identified. Furthermore, ethical components of the process of clinical trials to evaluate the safety and efficacy of artificial intelligence systems in Russia are described. Domestic state-of-the-art and globally unique experience in technical regulation of artificial intelligence systems are shown on unification papers and standardization of requirements for the development, testing, and operation of artificial intelligence systems in healthcare are presented, and unparalleled Russian experience in terms of certification requirements for artificial intelligence-based medical devices is demonstrated.

The article also summarizes the main conclusions and emphasizes the importance of a strong successful healthcare system based on artificial intelligence technologies that build trust and compliance with ethical standards.

Рассматриваются этические вопросы применения в ходе жизненного цикла систем искусственного интеллекта; представлена актуальная информация о мировых и отечественных тенденциях в этой сфере. Описан международный и национальный опыт в области этических вопросов применения систем искусственного интеллекта в здравоохранении; разобраны международные и национальные стратегии развития искусственного интеллекта в здравоохранении, где особое внимание уделяется национальному развитию, и выявлены основные тенденции, сходства и различия между стратегиями. Описаны также этические составляющие процесса клинических испытаний систем искусственного интеллекта в России, в рамках которых оцениваются их безопасность и эффективность. В рамках передового отечественного опыта по техническому регулированию систем искусственного интеллекта, аналогов которому нет в мире, представлены работы по унификации и стандартизации требований, используемые при разработке, тестировании и эксплуатации систем искусственного интеллекта в здравоохранении и уникальный опыт России в части сертификационных требований к медицинским изделиям, использующим технологии искусственного интеллекта.

Особо подчёркнута важность построения успешной системы здравоохранения в области технологий искусственного интеллекта, которая способствует укреплению доверия и соблюдению этических норм.

考虑了人工智能系统在生命周期中使用的伦理问题，介绍了该领域世界和国内趋势的相关信息。 描述了在医疗保健中使用人工智能系统的伦理问题领域的国际和国家经验； 分析了医疗保健人工智能发展的国际和国家战略，特别关注国家发展，并确定了战略之间的主要趋势、异同。 还描述了俄罗斯人工智能系统临床试验过程的伦理组成部分，并在其框架内评估了其安全性和有效性。 人工智能系统技术监管方面国内先进经验的框架下，致力于在医疗领域人工智能系统的开发、测试和运行中使用的要求的统一和标准化，以及独特的人工智能系统的技术规范。介绍了俄罗斯在医疗器械认证要求方面的经验，使用人工智能技术。

特别强调了在人工智能技术领域建立成功的医疗保健系统的重要性，这有助于建立信任和遵守道德标准。

clinical ethicsartificial intelligencestandardizationclinical trialклиническая этикаискусственный интеллектстандартизацияклинические испытания临床伦理人工智能标准化临床试验Тop 10 principles for ethical artificial intelligence [Electronic resource]. UNI Global Union; 2017. 10 р. Available from: http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf. Accessed: 11.07.2021.Тop 10 principles for ethical artificial intelligence [электронный ресурс]. UNI Global Union; 2017. Режим доступа: http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf. Дата обращения: 11.07.2021.World Medical Association, Inc. WMA Declaration of Helsinki — Ethical Principles for Medical Research Involving Human Subjects [Electronic resource]. Available from: https://web.archive.org/web/20140101202246/http://www.wma.net/en/30publications/10policies/b3/. Accessed: 11.07.2021.World Medical Association, Inc. WMA Declaration of Helsinki — Ethical Principles for Medical Research Involving Human Subjects [электронный ресурс]. Режим доступа: https://web.archive.org/web/20140101202246/http://www.wma.net/en/30publications/10policies/b3/. Дата обращения: 11.07.2021.Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare. In: Artificial Intelligence in Healthcare. 2020. P. 295–336. doi: 10.1016/B978-0-12-818438-7.00012-5Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare//Artificial Intelligence in Healthcare. 2020. P. 295–336. doi: 10.1016/B978-0-12-818438-7.00012-5The state of the industry in Russia and the world. Strategy of Russia. In: Almanac "Artificial Intelligence": a collection of analytical materials on the field of artificial intelligence in Russia and the world. NTI Competence Center in the direction of "Artificial Intelligence" on the basis of Moscow Institute of Physics and Technology. 2019;1:7–136. (In Russ).Состояние отрасли в России и мире. Стратегия России//Альманах «Искусственный интеллект»: сборник аналитических материалов по отрасли искусственного интеллекта в России и мире. Центр компетенций НТИ по направлению «Искусственный интеллект» на базе МФТИ. 2019. № 1. C. 7–136.Pavlov NA, Andreichenko AE, Vladzimirsky AV, et al. Reference medical datasets (MosMedData) for independent external evaluation of algorithms based on artificial intelligence in diagnostics. Digital Diagnostics. 2021;2(1):49–66. (In Russ).Павлов Н.А., Андрейченко А.Е., Владзимирский А.В., и др. Эталонные медицинские датасеты (MosMedData) для независимой внешней оценки алгоритмов на основе искусственного интеллекта в диагностике//Digital Diagnostics. 2021. Т. 2, № 1. C. 49–66.Jaremko JL, Azar M, Bromwich R, et al. Canadian association of radiologists white paper on ethical and legal issues related to artificial intelligence in radiology. Can Assoc Radiol J. 2019;70(2):107–118. doi: 10.1016/j.carj.2019.03.001Jaremko J.L., Azar M., Bromwich R., et al. Canadian association of radiologists white paper on ethical and legal issues related to artificial intelligence in radiology//Can Assoc Radiol J. 2019. Vol. 70, N 2. P. 107–118. doi: 10.1016/j.carj.2019.03.001Morozov SP, Vladzimirsky AV, Klyashtorny VG, et al. Clinical trials of software based on intelligent technologies (radiation diagnostics). The series "Best practices of radiation and instrumental diagnostics". Issue 57. Moscow; 2019. 51 p. (In Russ).Морозов С.П., Владзимирский А.В., Кляшторный В.Г., и др. Клинические испытания программного обеспечения на основе интеллектуальных технологий (лучевая диагностика). Серия «Лучшие практики лучевой и инструментальной диагностики». Вып. 57. Москва, 2019. 51 с.FDA. Factors to consider regarding benefit-risk in medical device product availability, compliance, and enforcement decisions [Electronic resource]. Available from: https://www.fda.gov/ regulatory-information/search-fda-guidance-documents/factors-consider-regarding-benefit-risk-medical-device-product-availability-compliance-and. Accessed: 11.07.2021.FDA. Factors to consider regarding benefit-risk in medical device product availability, compliance, and enforcement decisions [электронный ресурс]. Режим доступа: https://www.fda.gov/ regulatory-information/search-fda-guidance-documents/factors-consider-regarding-benefit-risk-medical-device-product-availability-compliance-and. Дата обращения: 11.07.2021.WHO guidance. Ethics and governance of artificial intelligence for health. 2020 [Electronic resource]. Available from: https://www.who.int/publications/i/item/9789240029200. Accessed: 11.07.2021.WHO guidance. Ethics and governance of artificial intelligence for health [электронный ресурс]. 2020. Режим доступа: https://www.who.int/publications/i/item/9789240029200. Дата обращения: 11.07.2021.Morozov SP, Zinchenko VV, Khoruzhaya AN, et al. Standardization of artificial intelligence in healthcare: Russia becomes the leader. Medical Doctor and Information Technology. 2021;(2):12–19. (In Russ). doi: 1025881/18110193_2021_2_12Морозов С.П., Зинченко В.В., Хоружая А.Н., и др. Стандартизация искусственного интеллекта в здравоохранении: Россия выходит в лидеры//Врач и информационные технологии. 2021. № 2. C. 12–19. doi: 1025881/18110193_2021_2_12Liu X, Cruz Rivera S, Moher D, et al.; SPIRIT-AI and CONSORT-AI Working Group. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension. Nat Med. 2020;26(9):1364–1374. doi: 10.1038/s41591-020-1034-xLiu X., Cruz Rivera S., Moher D., et al.; SPIRIT-AI and CONSORT-AI Working Group. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension//Nat Med. 2020. Vol. 26, N 9. P. 1364–1374. doi: 10.1038/s41591-020-1034-xSelect Committee on artificial intelligence: a report. In: The national artificial intelligence research and development strategic plan: 2019 update [Electronic resource]. 2019. Available from: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Accessed: 11.07.2021.Select Committee on artificial intelligence: a report//The national artificial intelligence research and development strategic plan: 2019 update [электронный ресурс]. 2019. Режим доступа: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Дата обращения: 11.07.2021.Konrad Adenauer Stiftung. Comparison of national strategies to promote artificial intelligence [Electronic resource]. Available from: https://www.kas.de/en/single-title/-/content/vergleich-nationaler-strategien-zur-forderung-von-kunstlicher-intellige-1. Accessed: 11.07.2021.Konrad Adenauer Stiftung. Comparison of national strategies to promote artificial intelligence [электронный ресурс]. Режим доступа: https://www.kas.de/en/single-title/-/content/vergleich-nationaler-strategien-zur-forderung-von-kunstlicher-intellige-1. Дата обращения: 11.07.2021.Artificial Intelligence Technology Strategy (Reportof Strategic Council for AI Technology). Strategic Council for AI Technology; 2017 [Electronic resource]. Available from: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html. Accessed: 11.07.2021.Artificial Intelligence Technology Strategy (Reportof Strategic Council for AI Technology) [электронный ресурс]. Strategic Council for AI Technology; 2017. Режим доступа: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html. Дата обращения: 11.07.2021.National Research Foundation. AI Singapore [Electronic resource]. Available from: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. Accessed: 11.07.2021.National Research Foundation. AI Singapore [электронный ресурс]. Режим доступа: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. Дата обращения: 11.07.2021.The International Trade Administration (ITA). Korea ― Artificial Intelligence [Electronic resource]. Available from: https://www.privacyshield.gov/article?id=Korea-Artificial-Intelligence. Accessed: 11.07.2021.The International Trade Administration (ITA). Korea ― Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.privacyshield.gov/article?id=Korea-Artificial-Intelligence. Дата обращения: 11.07.2021.European Commission website. Shaping Europe’s digital future. Communication artificial intelligence for Europe [Electronic resource]. Available from: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe. Accessed: 11.07.2021.European Commission website. Shaping Europe’s digital future. Communication artificial intelligence for Europe [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe. Дата обращения: 11.07.2021.Current state and near-term priorities for ai-enabled diagnostic support software in health care [Electronic resource]. Duke-Margolis Center for Health Policy; 2019. Available from: https://healthpolicy.duke.edu/sites/default/files/2019-11/dukemargolisaienableddxss.pdf. Accessed: 11.07.2021.Current state and near-term priorities for ai-enabled diagnostic support software in health care [электронный ресурс]. Duke-Margolis Center for Health Policy; 2019. Режим доступа: https://healthpolicy.duke.edu/sites/default/files/2019-11/dukemargolisaienableddxss.pdf. Дата обращения: 11.07.2021.European Commission website. Shaping Europe’s digital future. Ethics guidelines for trustworthy AI [Electronic resource]. Available from: https://digital-strategy.ec.europa.eu/en/library/ ethics-guidelines-trustworthy-ai. Accessed: 11.07.2021.European Commission website. Shaping Europe’s digital future. Ethics guidelines for trustworthy AI [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Дата обращения: 11.07.2021.Council of Europe and Artificial Intelligence [Electronic resource]. Available from: https://www.coe.int/en/web/artificial-intelligence. Accessed: 11.07.2021.Council of Europe and Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.coe.int/en/web/ artificial-intelligence. Дата обращения: 11.07.2021.United Nations Educational, Cultural and Scientific Organization. SHS/BIO/AHEG-AI/2020/4 REV.2. The first draft of the recommendation on the ethical aspects of artificial intelligence [Electronic resource]. 2020. (In Russ). Available from: https://ifap.ru/ pr/2020/n201116a.pdf. Accessed: 11.07.2021.ООН по вопросам образования, культуры и науки. SHS/BIO/AHEG-AI/2020/4 REV.2. Первый проект рекомендации об этических аспектах искусственного интеллекта [электронный ресурс]. 2020. Режим доступа: https://ifap.ru/pr/2020/n201116a.pdf. Дата обращения: 11.07.2021.European Commission website. USA-China-EU plans for AI: where do we stand? [Electronic resource]. 2018. Available from: https://ati.ec.europa.eu/sites/default/files/2020-07/USA-China-EU%20plans%20for%20AI%20-%20where%20do%20we%20stand%20%28v5%29.pdf. Accessed: 11.07.2021.European Commission website. USA-China-EU plans for AI: where do we stand? [электронный ресурс]. 2018. Режим доступа: https://ati.ec.europa.eu/sites/default/files/2020-07/USA-China-EU%20plans%20for%20AI%20-%20where%20do%20we%20stand%20%28v5%29.pdf. Дата обращения: 11.07.2021.Decree of the President of the Russian Federation No. 642 dated 01.12.2016 "On the strategy of scientific and technological development of the Russian Federation". Available from: http://www.kremlin.ru/acts/bank/41449. Accessed: 11.07.2021.Указ Президента Российской Федерации от 01.12.2016 № 642 «О стратегии научно-технологического развития Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/41449. Дата обращения: 11.07.2021.Global Artificial Intelligence Industry Whitepaper [Electronic resource]. Deloitte Technology, Media and Telecommunications Industry; 2019. Available from: https://www2.deloitte.com/cn/en/pages/technology-media-and-telecommunications/articles/ global-ai-development-white-paper.html. Accessed: 11.07.2021.Global Artificial Intelligence Industry Whitepaper [электронный ресурс]. Deloitte Technology, Media and Telecommunications Industry; 2019. Режим доступа: https://www2.deloitte.com/cn/en/pages/technology-media-and-telecommunications/articles/global-ai-development-white-paper.html. Дата обращения: 11.07.2021.Geis JR, Brady AP, Wu CC, et al. Ethics of artificial intelligence in radiology: summary of the Joint European and North American Multisociety Statement. Radiology. 2019;293(2):436–440. doi: 10.1148/radiol.2019191586Geis J.R., Brady A.P., Wu C.C., et al. Ethics of artificial intelligence in radiology: summary of the Joint European and North American Multisociety Statement//Radiology. 2019. Vol. 293, N 2. P. 436–440. doi: 10.1148/radiol.2019191586Safdar NM, Banja JD, Meltzer CC. Ethical considerations in artificial intelligence. Eur J Radiol. 2020;122:108768. doi: 10.1016/j.ejrad.2019.108768Safdar N.M., Banja J.D., Meltzer C.C. Ethical considerations in artificial intelligence//Eur J Radiol. 2020. Vol. 122. Р. 108768. doi: 10.1016/j.ejrad.2019.108768Website of the President of Russia. List of assignments based on the results of the conference on artificial intelligence [Electronic resource]. (In Russ). Available from: http://www.kremlin.ru/acts/assignments/orders/64859. Accessed: 11.07.2021.Сайт Президента России. Перечень поручений по итогам конференции по искусственному интеллекту [электронный ресурс]. Режим доступа: http://www.kremlin.ru/acts/assignments/orders/64859. Дата обращения: 11.07.2021.The expert center of the electronic state. Actual tasks of international cooperation on the development and regulation of artificial intelligence [Electronic resource]. (In Russ). Available from: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html. Accessed: 11.07.2021.Экспертный центр электронного государства. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта [электронный ресурс]. Режим доступа: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html. Дата обращения: 11.07.2021.Order of the Government of the Russian Federation No. 2129-r of 19.08.2020. (In Russ). Available from: http://publication.pravo.gov.ru/Document/View/0001202008260005?index=0&rangeSize=1 Accessed: 11.07.2021.Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р. Режим доступа: http://publication.pravo.gov.ru/Document/View/0001202008260005?index=0&rangeSize=1. Дата обращения: 11.07.2021.Decree of the President of the Russian Federation No. 490 dated 10.10.2019 "On the development of artificial intelligence in the Russian Federation". (In Russ). Available from: http://www.kremlin.ru/ acts/bank/44731. Accessed: 11.07.2021.Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/44731. Дата обращения: 11.07.2021.Ministry of Industry and Trade of the Russian Federation. Federal Agency for Technical Regulation and Metrology. Order No. 1732 of July 25, 2019 "On the establishment of the technical Committee for Standardization "Artificial Intelligence". (In Russ). Available from: https://docs.cntd.ru/document/560916332. Accessed: 11.07.2021.Министерство промышленности и торговли Российской Федерации. Федеральное агентство по техническому регулированию и метрологии. Приказ от 25 июля 2019 года № 1732 «О создании технического комитета по стандартизации "Искусственный интеллект"». Режим доступа: https://docs.cntd.ru/document/560916332. Дата обращения: 11.07.2021.Technical Committee for Standardization "Artificial Intelligence" (TC164). Order No. 1 of 13.01.2020 "On determining the basic organization of the subcommittee "Artificial Intelligence in Healthcare". (In Russ). Available from: https://tele-med.ai/media/uploads/2021/03/18/01_-2-2.pdf. Accessed: 11.07.2021.Технический комитет по стандартизации «Искусственный интеллект» (ТК164). Приказ от 13.01.2020 № 1 «Об определении базовой организации подкомитета "Искусственный интеллект в здравоохранении"». Режим доступа: https://tele-med.ai/media/uploads/2021/03/18/01_-2-2.pdf. Дата обращения: 11.07.2021.Morozov SP, Chernina VYu, Andreychenko AE, et al. How does artificial intelligence effect on the assessment of lung damage in COVID-19 on chest CT scan? Digital Diagnostics. 2020;2(1):27−38. (In Russ). doi: 10.17816/DD60040.Морозов С.П., Чернина В.Ю., Андрейченко А.Е., и др. Как искусственный интеллект влияет на оценку поражения легких при COVID-19 по данным КТ грудной клетки?//Digital Diagnostics. 2021. Vol. 2, № 1. P. 27–38. doi: 10.17816/DD60040.