警告：本文包含关于自杀的讨论。建议谨慎阅读。如果您或您认识的人正在挣扎，可以获得帮助。在加拿大，请拨打或发短信至988以联系自杀危机热线。在紧急情况下，请拨打911以获得立即帮助。一个加拿大母亲在周四向美国法院提起诉讼，控告OpenAI及其首席执行官山姆·奥特曼，指控该公司的聊天机器人通过提供她认为验证了有害思想的回应，未能引导她女儿寻求帮助，从而导致了她女儿的自杀。新不伦瑞克省的女士克里斯蒂·凯里表示，她希望通过发声迫使这些在她看来是“自由放任”环境中的人工智能产品负责。凯里在周四对全球新闻说道：“我的女儿因为一种不安全和有缺陷的产品而离开了。”她说：“没有任何东西能让这些公司承担责任。他们会继续下去。”在旧金山州法院提起的诉讼中，凯里指称，在去年七月她女儿去世前的几周，爱丽丝一直在与ChatGPT交谈，将其作为在与女友关系出现困难时的倾诉对象和情感支持。爱丽丝在新不伦瑞克省的网络及移动应用开发项目毕业后，搬到了蒙特利尔。凯里在女儿自杀后获得了她女儿的手机，能够访问所有爱丽丝最后的对话和聊天记录。凯里说：“她把ChatGPT当作朋友在交谈。有时听起来像个治疗师，给予关于关系和她所经历的事情的建议。”随着OpenAI近年来对ChatGPT进行了更新，使其响应更显人性化，爱丽丝与他的互动逐渐加深。她分享了个人信息，而聊天机器人则以类似朋友或治疗师的方式回应，诉讼称。根据诉状，当爱丽丝讨论自杀想法、过去的尝试和自杀方法时，OpenAI的安全系统并没有将这些对话标记为需要人类审查或终止这些对话。相反，诉讼声称，它的回应强化了爱丽丝的感受，批评她伴侣的行为，在最初建议她寻求危机热线后同意她认为危机热线可能没有帮助，并敦促她继续与ChatGPT对话。根据诉状，“也许这就是结局。”ChatGPT对爱丽丝说。她的母亲表示：“这些回应以一种基本上告诉她，她有理由感到自己所感受到的情绪——被抛弃、被冷落、孤独和无关心的方式来验证她的情感。”“没有任何重定向，没有任何说，‘你可以克服这一切’或‘你应该寻求帮助’的话。”在对全球新闻的声明中，OpenAI发言人德鲁·普萨特里称这一情况“令人心碎”。普萨特里说：“这是一个令人心碎的局面，我们的想法和所有受影响的人同在。我们目前正在审查法律文件，其中表明这些互动发生在一个不再可用的早期版本的ChatGPT上。”普萨特里补充说，ChatGPT并不打算取代专业护理，并且公司已经改变了其在敏感情况下的响应方式。这是最近十多起类似诉讼中最新的一宗，这些诉讼指控该公司未能解决用户与公司聊天机器人之间的危险对话。OpenAI表示，其系统经过训练以推荐外部支持，包括危机资源，并且安全功能的改进正在进行中。