在一些育空地区的诊所中，人工智能工具已经使用了几个月——根据该地区卫生部门的说法，它们已经成为医疗提供者的宝贵资源。但其他人认为各级政府过于快速地接受了人工智能，而没有充分理解对患者的潜在影响。育空地区部署了两种人工智能工具：Heidi，它可以倾听提供者与患者之间的对话，并输出文本记录和关键要点；Spotlight，它使用这些临床记录自动填写转诊表格和其它文书工作。这些服务只能在患者同意的情况下使用。临床医生在每次就诊开始时，预期要与患者沟通。育空政府的整合健康服务主任Alethea Stobbe表示，她听到提供者对这些工具在诊所中的运作反应积极。但提供人工智能采纳建议的公司负责人Marcus Castillo却对此提出质疑，为什么这些工具在没有政策指导的情况下就被采纳了。“如果你不知道如何使用人工智能工具，尤其是涉及如此敏感的事情时，你将会犯错误，”他说。Spotlight的创始人Chirag Jadhwani告诉CBC，他创建该工具的目标是帮助临床医生避免这种情况。在育空政府工作期间，他从孟买的家人那里收到了糟糕的消息。“我的祖母是和我妈妈一起抚养我的人之一，”他说。“当她去世时，是因为她的转诊被延误并退回，因为她的文件中出现了错误。”这一经历促使他寻找解决方案。“我辞去了工作，并开始主动联系医院、危机热线，以及所有在医疗系统中进行转诊的人，”他说。他了解到，育空地区的临时诊所提供者需要多达四次就诊才能完成一个患者的转诊包，而填写文书工作需要三个小时。对此，Jadhwani设计了与由Geoffrey Hinton共同创立的研究机构Vector合作的软件。“现在，只需两个点击，一个草稿就准备好进行审阅，”他说。Stobbe表示，这有助于填补育空地区医疗系统中一个关键的空白，该系统在很大程度上依赖于可能不熟悉所有转诊选项的临时医生和护士。Alethea Stobbe是育空政府整合健康服务的主任。她表示，现有多达60%的临床医生定期使用人工智能记录工具Heidi，90%使用Spotlight。这两种工具在加拿大各地都在使用，Spotlight已在安大略省、不列颠哥伦比亚省、两个美国州和英格兰的诊所中投入使用。Heidi在育空地区收集的信息存储在魁北克的服务器上，在10天后会被自动删除。Spotlight则将服务器放置在诊所内，并依赖虚拟私人网络，而不是第三方云存储。报告发现医疗人工智能工具会产生错误信息。今年5月，安大略省审计长Shelley Spence发布了一份报告，发现供医生使用的人工智能工具提供了不正确和不完整的信息，或表现出“幻觉”。报告还发现评估和测试过程存在显著差距。Stobbe承认，育空的提供者见到Heidi生成了错误信息，但表示一旦他们要求该工具不要做假设，仅使用临床接触中讨论的信息，错误显著减少。她说，政府在部署该软件之前完成了隐私影响和安全威胁风险评估。审计长的报告还详细列出了安大略省采购过程中的问题，指出这些问题可能导致选择那些“产生不准确或有偏见的医疗记录”或“缺乏足够保护个人健康信息的”人工智能工具的供应商。育空政府的采购过程...