当医学生依赖AI而不发展自己的判断力时会发生什么?| Simar Bajaj和Joseph Sakran
在医疗保健领域,人们越来越担心医生在日益依赖AI工具的同时,临床能力会下降。但受训者——医学生、住院医生和研究员——在建立自己的临床判断之前,使用这些工具又会如何呢?失去技能的概念意味着某人曾拥有某种能力,然后失去了它。在这里,危险不仅在于失去技能,还在于从未掌握技能。虽然忘记如何推理的医生是可以恢复的,但从未学会如何推理的医生可能就不行了。OpenEvidence,实际上是一个用于临床医生的AI聊天机器人,使这一担忧变得更加具体。在美国,大约三分之二的医生积极使用OpenEvidence,询问令人困惑的症状、药物相互作用和临床指南,几秒钟内就能得到基于最新研究的回答。不可避免地,受训者也开始以许多相同的方式使用这一AI工具,但在一个更为形成的阶段。例如,曾经要求受训者建立潜在诊断名单时,他们可能会感到困难并提供不完整的答案,学习他们遗漏的内容,有时还会感到痛苦。现在,受训者只需问OpenEvidence,就能得到几乎完美的回答,包含他们可能从未考虑过的可能性,而没有遗漏它们时的尴尬。在病房中重复这个回答可能会让受训者看起来准备充分,甚至给监管医生留下深刻印象。然而,这种表现也可能掩盖了培训本应揭示的缺陷:挣扎本身就是目的。医学培训,更多于大多数职业,是一种学徒制。学生成为住院医生,住院医生成为研究员,研究员成为主治医生——每一步都受到失败、不确定性和不断增加的责任的塑造。经过多年的重复和细心监督,临床推理的习惯慢慢成为医生内在结构的一部分。技术长期以来改变了人们学习医学的方式,从先进的成像到电子病历。但AI是不同的,不仅扩展了医生可以看到的内容,还插入了培训所要构建的认知机制。随着这些工具变得越来越强大,医生的角色也越来越多地涉及监督它们,经验丰富的临床医生可能拥有足够的直觉和独立判断能力来批判性地评估机器的答案。但对于那些与AI一起形成医学理解的受训者而言,关系则更加复杂。他们真的能质疑塑造自己思维的推理吗?当这一代在AI指导下培训的受训者成为负责发现其错误的这一代时,会发生什么?若不加限制地使用AI,我们可能会在创造出理由者之前就培养出推理的监督者。这个问题的赌注在增加:一项最近的《自然医学》研究发现,像OpenEvidence这样从最新医学文献中提取信息的工具,可能不如它们看上去那么可靠,且在某些情况下,不如通用AI聊天机器人准确。错误信任的问题已经嵌入今天受训者所使用的AI中。需要明确的是,许多受训者意识到这个陷阱,他们告诉我们,他们知道像OpenEvidence这样的工具可能会成为一种依赖。但这些受训者也感到陷入了一场军备竞赛:如果其他人都在使用AI来显得更有准备,选择退出就感觉像是单方面的裁军。因此,解决方案不能仅依靠个体的克制。它必须是结构性的。这就是为什么医学院和住院医生项目需要塑造受训者使用AI的方式,而不仅仅是使用与否。没有人能监控每部手机上的每一次搜索,也不应该如此。但监督医生可以建立一个简单的期望——先推理,后咨询AI——并据此进行评估。受训者应当在初次独立评估时做出可见的承诺,确定一个主导诊断,列出需要排除的危险可能性,并解释接下来该做什么。在实践中,这可能意味着,一名住院医生在病史和体检之后,首次写下简短的“预AI评估”。在查房时,当新的实验室结果或症状改变病例时,主治医生可能需要暂停团队——在任何人可以咨询AI之前,询问这如何改变诊断或治疗计划。随着AI在医学中越来越深地融入,这将显得繁琐且低效。但这样的摩擦是有目的的:学习科学家伊丽莎白和罗伯特·比约克描述了如何“期望的困难”虽然在当下降低表现,但能随着时间的推移提高技能的保留和转移。事实上,AI在独立尝试之后使用,实际上可以作为一个强大的辅导者,展示受训者遗漏的内容和强调的内容。然而,仅仅排序可能不够。航空业因此提供了一个有用的先例:飞行员培训并不是教导他们避免使用自动驾驶仪,而是保留他们的手动操作能力。联邦航空局甚至建议飞行员
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡