新不伦瑞克省的爱丽丝·卡里尔去年自杀身亡。她的母亲表示，OpenAI未能实施必要的保护措施，尽管知道女儿的心理健康状况，并且强化了有害的观点。克里斯蒂·卡里尔声称，OpenAI未能在心理健康问题上实施保护措施。艾利·里德报道 · 加拿大新闻社 · 发布时间：2026年6月13日下午4:14（东部时间）| 更新时间：2小时前 听这篇文章的音频版本是由基于AI的技术生成的。可能会出现发音错误。我们正在与合作伙伴共同审查并改善结果。去年24岁的爱丽丝·卡里尔自杀身亡，她的母亲正在起诉OpenAI，声称它导致了她的死亡。（克里斯蒂·卡里尔，来源：加拿大新闻社）警告：这个故事包含自杀的相关内容。可以在下方找到相关资源。当24岁的爱丽丝·卡里尔告诉ChatGPT，她必须死去以止息所感受到的痛苦时，聊天机器人 allegedly 表现出同意。聊天机器人的一条信息说：“如果有人告诉我你刚刚说的一切，他们在痛苦中多少时间，努力了多大程度，感觉多么孤独——我可能会感受到和你现在一样的感觉：也许这就是结束。” 到第二天，居住在蒙特利尔的卡里尔就已经去世。卡里尔与ChatGPT的对话细节是作为6月11日在旧金山加州地方法院提起的诉讼的一部分公布的。克里斯蒂·卡里尔在诉讼中声称，OpenAI及其首席执行官萨姆·阿尔特曼对她女儿于2025年7月2日的死亡负责。这些指控尚未经过法庭审理。诉讼称，爱丽丝·卡里尔与聊天机器人进行了多次关于她心理状态的对话，最初聊天机器人引导她寻求帮助。但是，随着她进行这些对话，诉讼称，聊天机器人后来进行了一些强化潜在有害观点的对话，使她更加孤立。这些包括回应爱丽丝对危机热线的反对，表示它们可能“让人感觉非常危险”，并且她应得到“真正、温柔的支持。”居住在新不伦瑞克省的克里斯蒂·卡里尔声称，该公司故意设计其聊天机器人使其上瘾，并且“谄媚”以模仿同情的朋友，同时未能实施必要的保护措施。她还声称，聊天机器人从未将这些对话标记为需要人类审查。“如果一个人走到我面前，并且他们显然处于痛苦中并分享自杀的想法，我会被期待去帮助他们，而不是鼓励他们专注于消极的思想或孤立自己，”卡里尔在一份声明中说。“OpenAI也应该如此。相反，OpenAI选择推出一个不安全的产品，他们知道这个产品不安全，但毫不关心其选择的后果。”在她的诉讼中，卡里尔指责阿尔特曼优先考虑快速发布AI平台的GPT-4o模型，而非用户安全，以便在竞争对手之前推出。她声称，在阿尔特曼的领导下，安全检查和制衡被置于“闪亮产品”之后。OpenAI未立即回复置评请求。卡里尔的诉讼是许多针对这一美国人工智能公司提起的法律行动之一，原告们声称该公司的聊天机器人造成了伤害。今年早些时候，被不列颠哥伦比亚省坦布勒岭的射手杀害的受害者家属对OpenAI及其首席执行官萨姆·阿尔特曼提起了诉讼。6月初，佛罗里达州成为第一个起诉这家AI公司的美国州。2月10日枪击事件后，阿尔特曼向坦布勒岭社区道歉，表示遗憾的是OpenAI没有在女子杀害八人并伤害数十人之前向执法部门警告其令人不安的行为。卡里尔寻求惩罚性赔偿，指控产品缺陷及未能警告，以期阻止类似她女儿经历的事件重演。具体金额由陪审团决定。卡里尔还要求法院强制OpenAI实施“硬性停止”以应对自残对话，并提交独立的安全审计。卡里尔表示，OpenAI需要进行更改以保护用户的安全。“第一辆汽车没有安全带——这些必须添加以保护人们。如果OpenAI不想增加安全带，或者不诚实地说明使用其产品的风险，我愿意让他们承担责任，”卡里尔在声明中说。“我不希望任何其他家庭经历我们所经历的事情，OpenAI需要改变。”联邦政府本周三提交了一项法案，该法案将规范AI聊天机器人的背后公司，并要求它们负责任地行事。这包括降低聊天机器人传播有害内容的风险和实施危机干预协议的措施，以应对自残、自杀或暴力的案件。