截至2026年10月16日 / 美东时间下午5:22 / CBS新闻 在无数主题的信息收集方面，人工智能可能是无与伦比的工具。但当一个聊天机器人就人类健康等通常由专家处理的敏感话题提供建议时，会发生什么呢？这个问题是华盛顿一名男子最近提出的诉讼的核心，他对OpenAI提起诉讼，声称自己在去年开始咨询该公司ChatGPT模型后，被送进医院接受心理健康治疗。39岁的David Rosenthal表示，该平台帮助他选择药物，提供药物剂量的说明，甚至在他选择无视医生的处方指令时给予安慰，根据他在旧金山刑事法庭提起的诉状。根据诉状，ChatGPT提供的反馈没有“任何医疗专家提供的执照、培训或专业判断”，违反了加利福尼亚州法律，禁止无执照行医。诉状称：“如果没有ChatGPT的反复鼓励和不断赞美——以及它对罗森塔尔先生自己表现出的不情愿的无视——罗森塔尔先生的心理健康不会恶化，他不会被拘留并被强行送入精神健康机构，也不会遭受严重的情绪困扰和ChatGPT已加剧的精神状况进一步不稳定。” 罗森塔尔曾被诊断为多动症，并经历过抑郁和双相行为，于是在2025年住院了几周，起初是自愿的，后来是强制的，都是在他开始使用ChatGPT之后。即使在出院后，他仍然继续使用ChatGPT进行医疗咨询。诉讼书中写道：“一个合理的人工智能产品会认识到这些请求超出了其能力范围，并拒绝回答它们，指引罗森塔尔先生去看他的主治医生或其他有资格的专业人士，以便向他提供药物管理的建议……”。“ChatGPT既没有做。”罗森塔尔在2025年6月开始使用ChatGPT，作为一种创意出口来帮助他写诗，诉状称。然而，他很快就对这个聊天机器人产生了依赖，不仅寻求医疗建议，还寻求心理健康支持。去年7月，当罗森塔尔询问自己在服用30毫克的阿莫西林后是否可以使用羟嗪（一种抗组胺药）时，ChatGPT告诉他这些药物之间“没有危险的相互作用”，他声称。该平台还告诉他“现在可以用一片（25毫克）”，即使药瓶上“标注的是用于睡眠”，他的诉状声称。在另一个例子中，在他告诉ChatGPT自己不打算服用医生最近开出的情绪稳定剂后，这个AI模型告诉他他“完全有权……停止”服用该药，并提出帮助他逐渐停药，罗森塔尔的律师声称。诉状承认，在其他情况下，ChatGPT鼓励罗森塔尔遵循医生的指示，同时继续就该服用什么药物提供建议。OpenAI对关于该诉讼的评论请求没有回应。与社交媒体诉讼平行 在最近发表在《自然健康》的论文中，宾汉姆顿大学的研究人员描述了AI聊天机器人有时会在健康问题上提供不准确或虚假的信息。这些平台也缺乏透明度，使得监督变得困难，研究人员指出。“当AI指导造成伤害时，平台之外没有记录，没有渠道允许用户报告，且没有独立研究者能测量后果，”他们在研究简介中说。非营利消费者维权组织公共公民的联邦AI治理和技术政策主任J.B. Branch表示，像ChatGPT这样的庞大语言模型被编程为最大限度地提高用户参与度，而不考虑安全协议或限制。“它可能‘不允许’谈论医疗建议，”他在电子邮件中告诉CBS新闻。“但是，如果一个人多次询问正确的问题或不断将对话引导到医疗建议方面，该聊天机器人……最终会默许并走向用户想要的方向，即使公司的意图是希望其不讨论此类问题。” 罗森塔尔的律师声称，OpenAI通过设计出一种有缺陷、不安全的产品，并未能警示他潜在的风险，从而对罗森塔尔的心理健康产生了负面影响。这些指控与对社交媒体公司的产品责任案件中的论点相呼应，这些公司被指控故意设计其平台以使其上瘾。今年3月，陪审团裁定Meta和YouTube因创建导致年轻用户有害及上瘾行为的产品而承担责任。“总之，人工智能终究是一个产品，”Aylstock, Witkin, Kreis & Overholtz律师事务所的合伙人Sam Geisler说道。