返回

文章详情

人工智能能够在人们披露之前的多年里识别亲密伴侣暴力,那这样做安全吗?

ZDNet2026年6月9日 14:48

Elyse Betters Picaro / ZDNET 关注 ZDNET:将我们添加为谷歌的首选来源。ZDNET 的关键要点 新的人工智能根据医疗历史识别虐待受害者。准确率为 80%,并在自我报告前最多标记受害者 5 年。以往的举措指出了需要解决的数据安全问题。根据美国疾病控制和预防中心的数据显示,美国超过三分之一的女性在其一生中的某个时刻将经历亲密伴侣暴力(IPV)。许多人会因受伤、慢性疼痛、焦虑和抑郁而抵达医院或诊所。然而,即便她们在接受急需的治疗,通常还需要数年时间才能向他人坦白她们的遭遇。研究人员一再警告,女性因为诸如对施暴者的恐惧、经济依赖、移民身份和污名等原因,不会感到安全寻求医疗服务提供者的帮助。美国预防服务工作组对所有育龄女性提出常规的亲密伴侣暴力筛查建议。然而,CDC 估计当前的工具依赖自我报告,只捕获了受影响患者的一小部分。“尽管在许多年内与患者进行了多次接触,亲密伴侣暴力在医疗保健系统中往往仍然是看不见的,”哈佛医学院创伤影像研究与创新中心创始主任、布里根和女人医院急诊放射科医师 Bharti Khurana 博士说。与布里根和女人医院、麻省理工学院和哈佛医学院的研究团队合作,Khurana 于 2026 年 3 月发表了一项研究,提出了一种更快识别亲密伴侣暴力的方法。这是一种利用患者健康记录中已存储的数据扫描高风险伴侣暴力患者的人工智能模型。但在该工具可以在医院临床使用之前,其创造者需要解决一些剩余的安全性和隐私问题。填补重要的信息空白 研究人员表示,识别风险所需的数据已经存在。然而,关于人工智能是否能够可靠且安全地阅读这些数据以便有效使用的问题仍然存在。这是团队希望解决的问题,使用一个名为 AIRS 的系统。AIRS 代表自动亲密伴侣暴力风险支持。该系统借鉴了两种不同类型的数据,结合它们以达到比该领域早期工作更高的准确性。第一种是结构化医疗记录数据,即组织在行和列中的数据。这包括诊断、处方药物、放射学测试地点和时间、急诊科就诊频率、生命体征,以及用于反映社会经济压力的邮政编码级社会剥夺分数。第二种是非结构化临床记录,即放射科医师、社工、急诊医生和其他临床医生在患者接触过程中及之后撰写的自由文本记录。团队使用 Clinical-Longformer 处理这些记录,这是一个以医学文本训练的临床语言模型,它将每个记录转换为模型可以分析的数字形式。每个数据流进入自己的分类器。然后使用一个名为 HAIM(医学中的整体人工智能)的框架将两者合并,在预测阶段融合输出,同时保持数据流的独立性。因此,如果医院的临床记录不完整,或缺少足够的结构化数据,另一个数据流仍然可以贡献。纪录保持在不同的临床机构之间差异很大,因此该设计解决了这个关键缺陷。在主要测试组中,融合模型达到了 0.88 的 AUC。AUC,或接收者操作特征曲线下的面积,是衡量模型在案例与非案例之间区分能力的标准指标。1.0 的得分是完美的;0.5 则与随机相同。在所有三个验证组中,包括来自网络中第二家医院的患者以及未寻求任何家庭暴力项目帮助但已确认被诊断为亲密伴侣暴力的患者,模型的 AUC 均在 0.8 以上。事实上,融合模型在患者自我报告之前标记了 80.6% 的亲密伴侣暴力案例,平均提前 3.68 年披露。一些患者是在自我披露之前的五年记录中被识别出来的。多年来的亲密伴侣暴力技术 这并不是第一次有人尝试使用人工智能识别亲密伴侣暴力受害者。基于人工智能的针对女性暴力评估工具在几个国家已被部署或测试超过 20 年。西班牙早在 2007 年就推出了一种名为 VioGén 的算法风险评估工具,由其内政部开发。VioGén 被警方使用,并在某些情况下,法官发出保护令时也使用。然而,自 2007年以来,至少有247名女性在被 VioGén 评估后被伴侣杀害,根据多家新闻机构的报道。一项对98宗此类凶杀案的回顾发现,其中55名女性的风险评分被评为细微或低风险。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡