在实施近四十年来加拿大最致命的校园枪击事件之前的几个月，杰西·范鲁策拉（Jesse Van Rootselaar）向一个不太可能的顾问咨询如何实施大规模谋杀。据报道，OpenAI的ChatGPT给这位18岁的年轻人提供了建议：“在走廊里、室内或拥挤的教室里，870（雷明顿霰弹枪）是残酷的……近距离就是它的游乐场。”推荐的故事列表：列表1/3，安瑟罗皮克AI模型向费城警方提交虚假的凶杀案线索；列表2/3，前OpenAI员工称因提出安全问题而被解雇；列表3/3，AI深度伪造广告在美国中期选举中越来越受欢迎，模糊了真相。2026年2月10日，范鲁策拉在家中枪杀了他的母亲和同父异母的兄弟，然后前往不列颠哥伦比亚省的小镇坦布勒瑞奇（Tumbler Ridge）的一所学校，杀害了另外六人——包括五名学生——之后自杀。就在本周，10月14日，美国当局指控华盛顿州一名男子涉嫌与范鲁策拉密谋策划此次袭击。然而，这起大规模枪击事件引发了超出传统法律责任理解的问题。不列颠哥伦比亚省政府在9月对OpenAI及其首席执行官萨姆·阿尔特曼提起民事诉讼，指控他们未能防止这一事件，并声称他们知晓导致致命结果的对话。受害者家庭也提起了单独的诉讼。OpenAI的领导层对此表示公开歉意，承认未能通知当局。这家公司尚未回应阿尔杰丽拉在诉讼上发表评论的请求。但随着针对OpenAI案件的进展，这引发了一场熟悉的辩论：在报告潜在危险行为和保护个人隐私之间，应该划定怎样的界限？美国民权律师珍宁·尤尼斯（Jenin Younes）告诉阿尔杰丽拉：“是否应要求公司将此类信息提供给执法部门，这是一个极其困难的问题，特别是如果他们没有筛选聊天记录以寻找此类威胁的迹象”。尤尼斯补充说：“强迫公司实施监控系统涉及非常严重的公民自由问题，而这对我来说可能是个过于严苛的要求。”另一方面，AI让个人接触到以前没有的各种类型和数量的信息，这可能促进大规模伤亡事件的发生，这是一个不容小觑的担忧。AI区分思想与威胁的能力，当前AI公司面临的最大挑战之一是判断表达暴力想法的用户是否真正打算付诸行动。今年8月，开发AI聊天机器人Claude的公司安瑟罗皮克在发现一名用户 allegedly 威胁其首席执行官达里奥·阿莫代伊（Dario Amodei）的对话后，向旧金山警方进行了报告。根据《旧金山标准报》的报道，引用警方报告，该用户声称拥有一把AR-15步枪，并暗示他把阿莫代伊“锁定在瞄准镜中”。然而，当该报联系到该男子时，他表示他只是在开玩笑，并没有任何实施暴力的意图。据《标准报》报道，该男子没有被指控或拘留。牛津大学的高级研究员法兹·巴雷兹（Fazl Barez）表示，现在的AI模型无法“可靠地”判断与AI聊天机器人的互动“是纯粹的假设还是可能导致有害行为”。“假设你是一位创意作家正在写虚构的故事，想探讨谋杀情节可能如何展开。从上下文来看，这可能很明显，这只是一个虚构叙述。如果将潜在有害内容的标记阈值设定得过低，这样的作家可能会被错误标记，”他告诉阿尔杰丽拉。“同样，考虑到一名生物学或化学研究生正在研究病原体，如果被错误使用可能会产生严重后果。他们可能在试图理解这些病原体带来的风险以及如何减轻这些风险。这些讨论可能对于合法的研究和教育是必要的。即使主题敏感，也不应在未考虑更广泛背景的情况下自动标记。”该研究人员表示，识别一个可信的威胁可能需要检查用户在多个对话中的互动，而不是仅依赖孤立的陈述。巴雷兹表示，经历侵扰性暴力思想的某人可能会向聊天机器人寻求支持，而另一个计划袭击的人则可能在几次对话中逐渐透露他们的意图。“区分这两者需要仔细考虑上下文、意图和行为模式，而不是仅仅依赖单一的陈述，”他补充道。福特汉姆大学的法律教授钦马伊·夏尔玛（Chinmayi Sharma）表示，这场辩论与对心理健康专业人士施加的义务有相似之处，即告知可识别的第三方可信威胁。然而，她表示，有必要有更敏感的处理。