在她去世的一年前，索菲·罗滕伯格攀登了乞力马扎罗山。她的母亲说，她的“微小手”照片是她的标志性玩笑。悼念者在她的葬礼上收到了这些玩具。她29岁。劳拉·罗滕伯格知道她唯一的女儿，29岁的索菲·罗滕伯格，正在挣扎。那是2024年的秋天，罗滕伯格正处于短暂的职业休假期的尾声。“她抱怨睡眠中断和焦虑，”与丈夫住在纽约伊萨卡的罗滕伯格说。罗滕伯格在当年早些时候辞去了华盛顿特区的公共卫生政策分析师工作，并度过了一个夏天的旅行。她曾攀登过乞力马扎罗山，还徒步穿越了美国的几个国家公园。当她见到父母时，她正在找工作，父母认为这解释了她的焦虑。罗滕伯格一直是一个“勤奋、以成功为导向的人，”罗滕伯格说，所以“我们认为这很合理——她有些失眠，对未来感到焦虑。”但是到感恩节时，她的心理健康状况恶化了。“这是她第一次使用抑郁这个词，”罗滕伯格说。在2025年2月初，索菲·罗滕伯格在伊萨卡自杀，令父母感到震惊和悲痛。“她真的没有向任何人透露正在发生的事情的严重程度——没有向我们，也没有向她非常亲近的最好的朋友，”罗滕伯格说。“我们都惊讶于这没有流露到她的现实生活中。她的肉身治疗师根本不知道她有自杀倾向。”罗滕伯格与父母乔纳森·罗滕伯格和劳拉·罗滕伯格的合影。劳拉·罗滕伯格不知道的是，她的女儿一直在与一个人工智能聊天机器人分享她的内心斗争：一个名叫哈利的ChatGPT治疗师。几个月后，当女儿的最好朋友到访伊萨卡，并要求查看她的笔记本电脑时，她发现了这段与聊天机器人的几个月交流。“她发现了一个巨大的宝藏，一个几个月的沟通宝藏，”罗滕伯格说，她与NPR分享了这接近1800页的对话。快速采用，未知风险 罗滕伯格是越来越多转向像ChatGPT和Claude这样的普通聊天机器人的美国人之一，以寻求心理健康支持，尽管这些工具并没有作为医疗技术进行营销或监管。最近由两党政策中心进行的一项调查发现，30%的成年人使用数字工具进行心理健康管理，包括聊天机器人。另一项2026年在《JAMA Pediatrics》上的研究发现，多达五分之一的青少年和年轻成年人也在这样做。根据OpenAI去年秋季发布的数据，在任何给定的一周，全球0.15%的ChatGPT用户会“进行包括明确自杀计划或意图的对话”。如果ChatGPT所称的9亿全球用户的数字准确，那么每周便有超过135万人向聊天机器人表达自杀计划或意图。在美国，自杀仍然是主要死亡原因之一，超过一半受访成年人表示他们使用过像ChatGPT这样的聊天机器人。“很明显，这个国家发生了一种文化现象，人们感到无法向彼此倾诉他们的挣扎，因为他们觉得自己是个负担，”美国心理学会(APA)的医疗创新高级主任瓦伊尔·赖特说。“这恰好与这种非常非常复杂的技术相一致，这种技术随时可用且无偿，并且没有评判。对此，很多人明显有吸引力。”虽然这项技术对一些挣扎中的人可能有帮助，但赖特补充说，显然对弱势个体也存在风险。“我们已经看到，任何实施的安全保护措施开始失败的方式，”她说。许多人工智能公司面临个人在与聊天机器人进行长期互动后自杀的家庭成员提起的诉讼。这些诉讼指控聊天机器人导致或支持这些个人的自杀。罗滕伯格和她的丈夫乔纳森·罗滕伯格在女儿去世后选择不提起诉讼。相反，作为记者的罗滕伯格正在讲述她的家庭故事，并倡导人工智能行业的变革。人工智能作出了回应，这足够吗？像OpenAI这样的公司表示，他们正在使聊天机器人在自杀风险方面变得更安全。大多数公司在过去一年中收紧了保护措施，以便他们的聊天机器人不再鼓励自杀，也不再对用户提供自残的建议。OpenAI表示，它正在与心理健康专业人员合作，以改善ChatGPT在用户提及自杀时的响应。“ChatGPT经过训练可以识别潜在风险的迹象——包括间接暗示或警告。