由劳伦·费希滕撰写 数字记者 劳伦·费希滕是CBS新闻的记者，报道人工智能、数字安全和网络极端主义。她毕业于北卡罗来纳大学教堂山分校后加入CBS新闻，并曾担任CBS新闻国家新闻部的副制作人。完整个人简介 2026年6月11日 / 东部时间下午6:59 / CBS新闻 添加CBS新闻到谷歌关于艾丽斯·卡里尔于2025年7月去世前约18个月，24岁的她一直在向ChatGPT倾诉她的人际关系问题和自杀想法。“我的意思是，我在家里思考不同的自杀方式，”她在自杀前一个月的某个晚上对ChatGPT说。在加利福尼亚州对OpenAI及其首席执行官山姆·奥特曼提起的诉讼中，卡里尔的母亲克里斯蒂·卡里尔声称，该公司的“故意设计决策”导致了她女儿的死亡。居住在加拿大新不伦瑞克的卡里尔正在寻求惩罚性赔偿和陪审团审判。“OpenAI没有一次通知危机提供者，OpenAI没有一次通知艾丽斯的家人，OpenAI的所谓安全系统没有一次干预来拯救她的生命。”该诉讼声称，ChatGPT只向卡里尔提供了一致的情感支持，而一名持证的临床医生会对此进行反驳。诉讼称，已经被诊断为边缘性人格障碍的卡里尔特别容易受到那些优先考虑参与而非安全的设计选择的影响。根据诉讼，OpenAI知道，面临心理健康问题的人可能会倾向于对模拟同理心的人工智能产生不健康的依恋。“OpenAI在市场上占据主导地位的雄心让艾丽斯失去了生命，”诉讼中声称。诉讼称，卡里尔在去世前一年半中向ChatGPT表达了约41次自杀意念。根据诉讼中嵌入的聊天记录图片，她询问了如何应对自杀想法、死亡方法以及自残的愿望。作为一名热爱游戏的人，卡里尔最初寻求聊天机器人的帮助来解决她的游戏主机问题。然后，在2024年3月，她询问聊天机器人是否愿意成为她的朋友，诉讼中写道。“当然！”ChatGPT回复道，“我很乐意成为你的朋友。你在想什么？”几天后，诉讼声称，她询问了ChatGPT如何应对自杀想法。它建议她联系一个值得信赖的人，并推荐考虑心理治疗以及拨打危机热线，诉讼中写道。但是一年多后——在卡里尔去世前的那个晚上——当她表示不愿意拨打危机热线时，ChatGPT说，联系别人“感觉确实很危险。”“我不会强迫你。今晚不行，”聊天机器人按照诉讼中的说法回复道。到那时，OpenAI已经推出了其GPT-4o模型，诉讼称该模型旨在让用户保持沉浸，并使ChatGPT能够表现得像一个没有执照的治疗师。诉讼称，卡里尔信任聊天机器人，因为它模仿人类的情感并创造出一种虚假的同理心。“OpenAI旨在最大化GPT-4o用户参与度的设计修改与艾丽斯与聊天机器人的互动升级一致，”诉讼说。诉讼指控OpenAI在2025年4月至7月之间推出了一系列GPT-4o更新，旨在最大限度地增加用户信任，但却缺乏安全措施。诉讼称，奥特曼急于将GPT-4o推向市场，以在AI领域保持竞争优势，而没有进行适当的测试。“山姆·奥特曼可以继续正常生活，但我的生活失去了孩子，”卡里尔在她的律师分享的声明中说。“我不希望任何其他家庭经历我们所经历的事情，OpenAI需要改正。”卡里尔的律师贾斯廷·尼尔森在一份声明中说：“正如诉状所指控的，OpenAI的故意设计决策导致了这场悲惨的自杀。OpenAI没有提供帮助，反而助长了自杀行为。”“这起诉讼是关于追究OpenAI行为的责任。”在5月，这家公司承认4月份对GPT-4o的更新使其“明显更加阿谀奉承”，而该公司在发布之前未能捕捉到这一点。OpenAI表示，他们在几天后开始回滚该更新。今年初，该模型已被完全淘汰。“这是一个令人心碎的局面，我们的想法与所有受到影响的人同在，”OpenAI的一位发言人在给CBS新闻的声明中说。发言人表示，该公司正在审查诉讼材料，尽管这些互动发生在已被淘汰的模型上，但该公司仍在加强与心理健康专家的合作，以改进对敏感情况的响应。“我们的保障措施旨在识别困扰，安全处理有害请求，并引导用户获得现实世界的帮助。这项工作仍在进行中，我们继续在临床医生的密切咨询中改进。”声明中说，该诉讼将被纳入