人工智能正迅速融入医院和医疗诊所。然而，随着人工智能工具带来的好处，患者安全风险也随之增加——对于当事情出错时，谁负责的问题同样引发关注。在传统上，医疗保健中的责任划分是明确的。临床医生必须提供一套标准的治疗方案。医疗机构必须组织安全的治疗流程。制造商必须提供无缺陷的医疗设备。监管机构和有关执照与认证的机构可以在任何一方未达预期标准时进行干预。如果患者受到伤害，法院可以评估哪方负有责任。一波即将到来的医疗人工智能工具将会模糊这些界限。当前的人工智能工具主要被用作助手，依赖人类的检查，类似于其他医疗设备。例如，当人工智能模型触发患者可能面临败血症风险的警报时，临床医生必须审核并确认生理推理，才能进行任何治疗。医疗人工智能有能力变革医学——但是前提是我们要仔细追踪其涉及的数据。然而，预计在接下来的几年中，基于人工智能的临床工具将从综合数据进化到直接对其采取行动，人的干预将越来越少。它们将进行诊断、制定治疗方案并做出患者管理决策，而临床医生的参与很少或根本没有。许多现有工具的输出是可以理解的——例如，败血症模型通过根据透明公式组合已定义的生理变量工作——但更先进的工具则可能涉及黑箱深度学习过程。临床医生将无法完全理解工具的推理，尽管某些算法提供了对其判断的解释。这类工具处于责任规则的边界。在它们的黑箱推理中，判定何时发生故障变得困难。当人类与不透明的人工智能模型共同做出决策时，评估在接受医疗过程中受害者的责任变得更加复杂。现有的医疗责任框架并未解决这一交叉点。这种法律不确定性意味着受害者可能会跌入责任缺口，在这里没有人明确违反了规则。由于对法律风险的担忧，医院可能会避免使用人工智能来实现潜在有用的功能——医生们反复提到这些担忧是安全采用人工智能的障碍，这被一些人视为不使用已经可用的黑箱工具的理由。人工智能供应商可能会在工具上市后推卸监控安全的义务，确信当事情出错时难以归责。迫切需要明确的责任框架。在这里，我们概述了如何实现这一目标，通过根据自主性、自动化和操作范围三个因素定义七个级别的人工智能能力。监管机构在航空和自动驾驶汽车中已经使用分级级别来明确系统必须执行的具体任务、执行的独立性及人类何时应接管。对医疗人工智能系统而言，类似的一组级别将有助于监管机构、政策制定者、政府、法院以及专业医疗机构规划即将到来的工具。三种属性，七个级别。三种属性决定了人工智能在临床中的使用。第一，自主性：系统在无需人类输入的情况下进行推理的独立程度。现有的败血症风险模型是低自主性的人工智能工具。相比之下，深度学习系统可能会通过数千个变量之间的模式得出诊断，做出医生无法追溯的推论。第二，自动化：医疗人工智能系统能够自行执行的任务。这种系统可能从一个低自动化的机器人（由外科医生控制）到一个可以直接发送化疗处方到药房的系统。第三，操作范围：系统被允许运行的界限。由专业眼科服务部署的视网膜成像系统以双重确认临床决策的方式使用，其风险低于在初级保健诊所中用于自动决定是否将患者转诊给专家的相同工具。一个在波兰克拉科夫试验的扫描仪使用人工智能帮助检测乳腺癌。以下七个级别可以为医疗人工智能工具的风险定义提供基础。根据使用地点、方式及使用者的不同，特定工具可能处于不同的级别。级别0：信息型。一个没有自主性、自动化程度变化且操作范围狭窄的人工智能系统。这类系统根据人类设定的规则存储、移动和显示数据。例子包括用于管理电子健康记录或流式传输跟踪生命体征的可穿戴设备数据的算法。算法行为是透明的，任何输出都是可以独立验证的。这是一个已经走过的领域。监管机构可以评估这些工具是否符合要求。