关于在医疗保健中实施人工智能系统的伦理方面

绪论

人工智能是一套技术解决方案，它可以模拟人类的认知功能（包括自我学习、在没有预定算法的情况下搜索解决方案和获得洞察力），并在执行特定的、实际意义重大的数据处理任务时，根据GOST R 59277-2020，结果至少与人类智力活动的结果相当。因此，基于人工智能（AI）技术的系统具有某些特征，包括“进化”能力、与“新知识”合作的能力，这使得社会有责任在应用此类系统时制定新的道德标准（帮助医生诊断疾病和做出决策，一般来说，是医学上的帮助）。AI不仅应因其广泛的能力而有效，还应因其安全性而安全，为此，监管机构，包括道德规范（制定道德规范、医学人工智能技术领域的国家和国际道德标准）和积极更新和形成的技术法规。尽管看起来像一个黑匣子，但由于新出现的运作良好的规范和规则，Al不应该引起不信任，因为使用人工智能技术的好处要大得多，包括减少员工短缺和获得独立的第二意见。

AI的发展提出了一种新的伦理问题，涉及对决策过程、医学互动以及整个医疗体系的影响[1]。在AI的整个生命周期中尊重人权非常重要，这需要对道德方面进行系统讨论，以及为在全球范围内使用AI建立某些道德标准[2]。

伦理部分对于Al生命周期的所有阶段都是典型的，它是一组过程——从开发（科学，包括临床研究、设计、创造）、运营（投放市场、融资、维护、监测和评估效率、性能控制）和退役前。对象与Al交互时，在生命周期过程中考虑伦理问题尤为重要，而 SRI 所涉及的对象是指参与Al生命周期各个阶段的任何一方——法人实体和个人（研究人员—研究人员、医生；数据处理专家；工程师；IT 专家；商业和政府公司、大学、研究中心等。

另外，值得注意的是在世界和国内医疗保健系统中使用人工智能的伦理问题[3][4]。 Al是一种越来越大的医疗产品，因此必须排除或最大限度地减少出现错误的可能性，用于人工智能技术开发和测试的患者医疗和个人数据的应用。为了完成这些任务，需要获得足够数量的符合高质量标准（经适当验证）[5]的患者医疗数据并且不仅可用于疾病预测、[6]诊断和治疗优化，还可用于算法的内外部测试[7]。因此，为了解决与医学领域Al的发展和实施相关的伦理问题，需要一个复杂的解决方案，包括国家监管、高素质专家（工程师、医生、IT 专家等）的工作以及增加患者意识水平。

本次审查的目的是介绍目前在世界范围内规范人工智能使用的伦理方面和规范的可用文件，特别是在医疗保健行业，并研究 Al的监管法律和技术规范文件在世界上展示了俄罗斯在第一个国家标准方面的经验，这些国家标准将监督人工智能技术在医疗保健领域的发展和应用。

Al在医疗保健中应用的伦理问题领域的国际和国家经验。 分编

广泛使用患者数据来训练Al引起了对数据机密性的明显担忧。 保持平衡，以改善医疗服务，在二次使用其他患者的数据和个人信息的隐私之间，有许多原因问题。例如，在个别病人的层面上，了解他们的个人资料在多大程度上被二次使用，以及涉及哪些元素，便是问题所在；谁可以访问他们的数据；数据的匿名性有多有效和完整；这些数据是否有可能被用来伤害他们；是否可以更改他们的数据；他们的数据是否用于其他人的经济利益，以及数据隐私政策的变化是否会影响他们在近期或长期内获得的帮助[6]。医疗数据交换的医疗机构层面，出现了患者个人数据所有权的“责任意识”问题，可能会出现阻碍这种交换的问题。

但是，如果医生在使用Al时被误诊，则不清楚每一方（医生、机构、医疗保健系统或Al的制造商）在多大程度上负有道德责任。 根据现有的监管法律行为 [Art. 2011 年 11 月 21 日第 323-FZ 号联邦法第 98 条（2021 年 7 月 2 日修订）“关于俄罗斯联邦公民健康保护的基础知识”]，违反健康领域各种法律规范的责任此时的保护在于医疗机构和医生。

国家层面，医疗差错的责任变得更加有争议。 Al可能无法满足为它们设定的所有要求，使用包括Al在内的诊断医疗设备时存在风险。 美国食品和药物管理局 (Al) 指出，诊断医疗设备可能会带来风险，原因有五个：假阳性结果增加，导致不必要的额外程序； 假阴性结果增加（无法诊断疾病）； [8]适用于不适宜人群； 被人滥用； 由于错误的产品发布 (Al) 导致的故障。 因此，为了最大限度地降低风险，需要一个透明且完善的国家监管系统，这将部分消除（控制）在国家层面使用Al的道德问题。

根据定义，监管系统是一套规则。 对于工业制造的产品，例如药品、疫苗和医疗器械，包括 RIS，规则的作用是限制产品危害（不安全产品）的风险，不符合产品目的的风险预期（无效产品），或不符合基于世界卫生组织全球报告“人工智能促进健康的道德和治理” «Ethics and governance of artificial intelligence for health»的质量标准的风险 [9]。国家立法负责制定此类规则并为执行这些法律创造条件。 有义务遵守这些规则的包括 RIS 的制造商和用户（医疗机构、医生和其他医务人员）。 例如，建议Al的制造商根据批准的叙词表和国际疾病分类使用公认的病理分类，或根据专家专业协会的建议使用现象名称。

解决所提出的伦理问题的一般方法

世界卫生组织 (WHO) 的专家制定了解决所提出的伦理问题的原则，[9]这些问题适用于医疗保健中的人工智能。

1.自治保护

随着人工智能的发展，医生开始担心这些技术可能会取代它们，然而，保护自主性的提议原则意味着应开发AI以辅助决策，并在医务人员的操作过程中完全控制。 此外，该原则意味着Al生产者、数据集的创建者、国家政府等尊重数据保护及其机密性，这应载入监管法律。 俄罗斯，在莫斯科领土上，引入了处理个人数据的实验制度（2006 年 7 月 27 日“关于个人数据”的第 152-FZ 号联邦法律），这使得修改患者的知情同意和确保这一原则的实施。 此外，2020年医疗器械相关的监管法律文件开始发生变化。这些修正案确定了Al作为辅助医疗决策的作用，这使得在没有医生干预的情况下消除使用人工智能的问题成为可能。

2.确保患者的安全和福祉

AI的设计方式应不会对患者造成身心伤害。 他们必须在整个运营期间遵守经批准的安全、效率和质量要求。 建议为此目的，将建立质量控制和监测机制，以确保Al按预期运作。国际医疗器械监管者论坛关于医疗器械软件临床评估的建议获得批准，俄罗斯正在对这些建议进行调整[10]。 临床试验结果的协议和报告标准的制定也在进行中。 例如，随机对照试验被认为是实验设计的黄金标准，可为Al的安全性和有效性提供证据。 这方面，CONSORT-AI（报告试验的综合标准 - 人工智能）扩展已发展到 CONSORT 2010 和 SPIRIT-AI 标准（标准协议要素：干预试验的建议 - 人工智能） [11]。

3. 确保Al的透明度、可解释性和可理解性

Al的可理解性包括确保透明度和可解释性。Al制造商必须通过发布和向专业团体展示人工智能模型是如何开发的、其用例是什么、用于开发和验证Al的数据集的参数是什么、为显示FII的有效性进行了哪些临床试验等方面的数据来证明其透明度[10]。

人工智能算法和数据处理和决策原理一样，必须尽可能地解释，以告知个人数据主体，病人。

说明的Al可理解性原则也与确保安全的原则相关，因为要求披露所执行测试的信息、完整性和质量。

4. 增加责任和问责制

Al工程师和制造商以及医学专家必须制定和考虑使用该技术的方案，包括应获得的效率和生产率结果。这种情况下，相关方的责任是在规定的条件下，将Al用于其预期目的。应记录所有AI操作不正确的情况，并对其进行后续监控。

5. 确保平等

人工智能技术应该适用于社会各阶层，不分性别、种族、年龄和收入，以及所担任的职位等。 Al制造商必须确保并报告训练和测试数据集没有样本偏差，因此准确、完整和多样化，为整个人群的 AI 提供相同的性能指标。

6. 为人工智能提供反馈和稳定性

提供反馈要求Al的制造商和用户不断收集和分析有关Al使用的信息，以监控其工作是否符合规定的要求。 提供反馈要求Al的制造商和用户不断收集和分析有关Al使用的信息，以监控其工作是否符合规定的要求。 反馈与评估特定Al在医疗保健系统中的位置、医生的意愿、人工智能应用方案的实施和有效性相关。

所提出的解决道德问题的原则是一般性的，应当适应国情。许多世界大国提出了他们的国家战略，其中包含了人工智能发展的基本原则，包括前面提到的原则。

医疗领域人工智能发展的国际战略

为了研究人工智能在医疗保健中的应用和发展的国际战略，考虑了世界主要大国的文件。

目前，世界上大多数大国，包括美国、中国、日本、韩国、欧洲国家和俄罗斯，都制定并发布了国家战略或政策文件（图），定义了 FIS 的目标、目标和发展计划，每个其中特别关注医疗保健中的伦理成分[12, 13]。

图制定和批准世界人工智能发展战略的时间表

日本是最早制定国家人工智能战略的国家之一。 2017年发布的《Artificial Intelligence Technology Strategy》报告指出[14]，医疗保健是重点发展的行业之一。 2017年，新加坡启动了国家“AI Singapore”[15]计划，重点关注国家卫生系统。 2019 年韩国于发布了国家人工智能发展战略[16]，该战略也将医疗保健系统列为优先事项。

2018 年欧盟委员会于通过了«Artificial Intelligence for Europe» [17]人工智能战略，该战略引入了一项欧洲人工智能倡议，旨在通过创建欧洲人工智能联盟和制定有关人工智能的指导方针，确保采取适当的道德和法律方法。人工智能的伦理。

2019年美国发布了 «The National artificial intelligence research and development strategic plan: 2019 update» [12]，其中确定了8个战略重点：长期投资； 人类与人工智能交互的有效方法； 规范使用人工智能的法律和道德影响； 人工智能的安全和保护； 公共数据集； 人工智能的标准化和测试； 培训和公私伙伴关系。 同年，发布了«Current State and Near-Term Priorities for AI-Enabled Diagnostic Support Software in Health Care» [18],报告，其中专家论证了改变政府政策和法规以确保更安全、更有效地使用人工智能的必要性。医疗保健方面的智能。 本文件概述了管理医疗决策支持系统和Al以支持诊断的开发和应用的现有监管框架。 专家们根据以下假设就需要改变Al的监管框架以促进健康得出结论：

1. 提供Al改善患者预后、提高质量并降低这些治疗成本的证据可为临床医生提供“有用且值得信赖”的相关信息。

2. 评估在临床环境中使用人工智能产品的潜在风险。“软件产品的交付程度，以及解释其工作原理的信息，并描述已用于机器学习的人群，将对监管机构和临床医生如何评估患者使用此类产品的风险产生重大影响，”研究人员指出。 “可能有必要修改产品标签并讨论终身学习与封闭模式的风险和好处。”

2019 年加拿大发布了一份关于放射学人工智能相关伦理和法律问题的白皮书[6]。 加拿大放射科医生协会的一份白皮书为研究与医学成像中的人工智能相关的法律和伦理问题提供了一个框架。 特别关注患者数据的保密性、Al（自主权、责任和法律方面的水平）问题； 加拿大医疗保健实践（最佳实践和现行法律框架）以及人工智能可以为医疗保健系统提供的可预测机会。

2019 年 4 月欧盟委员会专家组于 发布的《人工智能稳健性道德指南》[19]包含多项关键要求，符合这些要求使Al成为一项可靠的技术：人类参与和监督； 技术可靠性和安全性； 保密和数据管理； 透明度; 多样性; 不歧视和公平； 环境和社会福利； 一种责任。

2020 年秋季欧洲议会提议形成一个新的法律框架，概述人工智能和机器人技术的开发、部署和使用中的道德原则和法律义务—《人工智能监管白皮书》[3]。

包括俄罗斯代表在内的欧洲委员会（CAHAI 人工智能特别委员会）[20]正在积极制定欧洲监管方法。

教科文组织制定了关于人工智能伦理的建议草案[21]：该文件计划于 2021 年底由教科文组织成员国通过。 欧洲正在成为人工智能伦理的全球参与者。 欧洲议会正在积极制定关于人工智能伦理的文件，包括医疗保健领域[20]。

还值得注意的是，美国对人工智能的市场方式比欧洲更加自由，而且美国的医疗设备（基于人工智能的软件）市场是世界上最大的市场之一。 2030 年预计到 人工智能将为全球经济贡献高达 13.33 万亿欧元，估计从人工智能中受益最多的地区可能是中国和北美，其次是南欧[22]。

中国人工智能领域发展战略与俄罗斯联邦科技发展战略密切相关，重点领域是向“数字化、智能化生产技术、机器人系统、新材料和方法”转型。设计、创建用于处理大量数据、机器学习和人工智能的系统”。[23]2017年国务院发布了《新一代人工智能发展规划》，确定了人工智能发展的阶段性目标，2018年，中国人工智能产业白皮书[24]。这两份文件都将健康和道德列为优先事项。

一些工作提出了在医学界开发和实施信息和通信技术的道德问题。例如，欧洲共同体和北美共同体的联合声明提出了与世卫组织提议的类似的基本道德原则[25]；放射学界表示，随着技术的迅速发展，他们打算制定一项统一的道德准则，以提供可靠的道德基础[26]。

俄罗斯，目前的优先事项是在医疗保健领域开发和引进人工智能，这将有助于实现战略目标和目的，国家保健项目，包括降低发病率和死亡率、延长预期寿命等。下一节将详细介绍国家战略。

国家卫生人工智能发展战略

俄罗斯，人工智能发展领域的国家进程，包括医疗保健领域的国家进程，是建立在开放原则的基础上的，科学工作者的广泛参与，信息和通信技术生产者和政府机构。2020 年代表俄罗斯联邦总统开始制定俄罗斯人工智能领域的道德规范[27]。

今天，俄罗斯高度重视发展人工智能方面的国际合作，同时必须妥善处理人工智能的能力，[28]为人工智能的安全和道德发展创造必要的基础，使其发展方法标准化，使其具有创造力，并促进人的潜力和人的潜力的发展能力。

作为人工智能发展的积极参与者，俄罗斯紧跟世界潮流。 俄罗斯政府制定并通过了一套全面的政策文件，使开始实施国家战略成为可能[29]。 2019 年 10 月，俄罗斯联邦总统 V.V. 普京签署了《关于俄罗斯联邦人工智能发展的第 490 号法令》，其中介绍了《到 2030 年人工智能发展的国家战略》，并批准了启动联邦项目“人工智能”的计划。智能”（2020 年作为“俄罗斯联邦数字经济”国家项目的一部分引入） [30]。联邦项目的框架内，设想了 6 个主要模块：支持科学研究； 建立一个综合的法律监管体系； 软件开发和开发； 提高数据的可用性和质量； 增加硬件的可用性； 培训合格人员并提高公众对基于人工智能的技术的认识水平。

俄罗斯人工智能发展国家战略的一个特点是，它有别于其他国家的大多数国家战略，这是发展医疗AL的一个优先事项，包括需要从一般原则转向更实际的水平。俄罗斯人工智能实际发展的途径之一是监管和技术（标准化）法规。俄罗斯使用人工智能技术创建的软件以及用于提供医疗护理的制造商，指的是软件医疗设备（作为医疗产品的软件）。 报错 笔记 拼音 双语对照

为了在2019年7月制定技术法规，成立了标准化“人工智能”技术委员会（TK164），该委员会负责人工智能问题，并提高该领域标准化工作的效率[31]。TK164框架内，PC01“医疗保健中的人工智能”小组委员会制定了适用于医疗软件开发、测试以及使用和操作要求的国家和国际标准，致力于人工智能。PC01旨在协调卫生保健人工智能系统开发、测试和运行中所用要求的统一和标准化工作，并为使用人工智能技术的医疗产品安装认证要求[32]。

为了规范临床试验的过程，这项AL（作为开发这些AL的独立测试期间的临床评估的一部分），其安全性和效率估计，以及登记AL由于医疗设备目前是俄罗斯专家的制定并准备批准相关标准。 建议在对未注册医疗器械（Al）进行临床试验之前进行伦理检查。作为道德专业知识的一部分，与人工智能应用中的伦理组分有关的问题，包括分析使用这些（Al）所产生的不良事件。 道德委员会还应考虑临床测试计划（就测试设计的批准，数据集控制），评估研究人员资格到所提出的测试。

值得注意的是，近年来的挑战—大流行性COVID-19—加深了人们对在医疗保健中使用人工智能的伦理方面的理解，包括利用胸部器官的计算机断层扫描诊断这种疾病[33]。本文表明，人工智能技术可以通过Covid-19的肺部肺部变化类别的类别来调整患者的流动，这可能影响进行此类患者的策略。 这是解释的，即人工智能系统是对患者图像的自动处理，因此，相当评估肺部的变化体积，而医生在不使用人工智能的情况下直观地执行这种评估。 大流行时期Covid-19期间使用人工智能的另一个道德方面是机密性，数据保护及其使用的问题，以跟踪病毒等[21]。

结论

目前，国际和国内正在积极发展医疗监管机构Al，但目前国外和国内监管机构尚未形成完善的法律框架和控制体系，人工智能技术方面的工作经验不足，在应用此类技术的伦理方面仍然没有得到解决或存在争议。

不仅是法律，而且技术规则也在积极发展作为改善和重新审视俄罗斯的监管和法律文件的优先措施，研究了人工智能技术的评估，测量和标准化问题。工作最积极地在国家工业标准化领域工作。 最佳实践的统一将允许构建人工智能技术的应用和开发的安全的发展，评估，调控和控制，并将增加社会的信心。

必要根据履行道德标准来创建一个系统，以实现所需的公共目标，使SII效益社会。 这方面，不仅需要重新思考现行的监管法律框架，还要考虑到新技术成就。 根据监管法律行为，以及在临床医学中行业标准的发展框架中，有必要根据道德规范的要求，特别是医生和医学界的其他代表的要求发展和评估这一点。 AL应该是“透明”在理解医学专业人员并保护医生和患者的利益，特别是在道德规范领域 - 仅在这种情况下，可以在医生，患者和AL制造商之间建立信任关系符合道德安全规范。

国际社会和私营公司应建立监测和核查道德标准遵守情况的机制，以便在尊重人权、良好科学实践原则、合法性和保护方面识别、预防和尽量减少AI的影响，并评估这些机制的有效性。各国应考虑使用这种形式的管理作为Al认证机制和相互承认标准化的可能性，同时考虑到健康产业的特殊性，使用这些Al及其对人们生活的潜在影响，以及其他伦理方面。

通过开发可靠的系统，防止未经授权访问综合解决方案的个人信息，从而提供基于高质量数据的人工智能模型的更有效培训，可以增强这些（AL）的安全性。

重要的是公众和政治讨论的重点是健康伦理。人工智能具有改善卫生保健系统的巨大潜力，但只有在现在开始解决社会面临的道德问题的条件下也可以揭示它。

使用这种道德上可接受的，取决于人工智能技术将为整个患者和社会提供积极贡献，包括医疗组织，医生（用户）。 各级的互动下，重要的是以正义原则与预期的积极结果之间的相对平等程度为指导。

附加信息

资金来源。该文章根据莫斯科市“科学提供大都会健康”的卫生部的计划，作为研发的一部分（EMIS№：АААА-А21-121012290079-2），据莫斯科市“大都会卫生”的卫生部门为2020-2022。

利益冲突。作者声明没有明显的和潜在的利益冲突相关的发表这篇文章。

作者贡献。文章的概念 - Sharov D.E.，Zinchenko V.v.，Ahmad E.S; 材料收集和处理 - Sharov D.E.，Zinchenko V.V.，Akhmad E.S; 写文本 - Sharov D.E，Zinchenko V.v.，Ahmad E.S; 绘制文献列表 - Sharov D.E.，Ahmad E.S; 编辑Sharov D.E.，Zinchenko V.v.，奥赫纳·莫尔斯基，莫罗萨斯基A.V.，Morozov S.P所有共同作者 - 批准了本文的最终版本，对文章所有部分的完整性责任。 所有作者都确认其作者符合国际ICMJE标准（所有作者为文章的概念，研究和准备工作做出了重大贡献，并在发表前阅读并批准了最终版本）。