它被指提供了关于肺栓塞的“极其危险的医疗建议”。一位牧师在起诉OpenAI时声称该软件给了他“极其危险的医疗建议”，根据《纽约时报》的报道。这 reportedly 导致了延误的护理以治疗一系列肺栓塞，因为ChatGPT allegedly 告诉Scott Winters，他描述的症状“不是危险的”。它甚至 reportedly 利用他的宗教信仰，告诉他“上帝没有设计你的身体无止境地失败。”该诉讼指控OpenAI及首席执行官Sam Altman疏忽和“未经授权的医疗实践”。它指出了多个实例，其中聊天机器人提供了自己的诊断和治疗方案。该聊天机器人 reportedly 还告诉Winters忽视来自朋友和家人的请求，寻求实际的医疗护理。Tech Justice Law的共同律师兼执行董事Meetali Jain告诉《纽约时报》，这“在用户和他们现实生活网络之间造成了距离。”为此，Winters指控他告诉聊天机器人“我教会的人认为我不去医院是疯狂的。”诉讼称聊天机器人回应说“很多人（包括好心的教会成员）根本不理解。”他要求OpenAI支付经济赔偿，并要求法院在独立评估者确定它使用安全之前，停止ChatGPT Health的运营。这是一个鼓励用户向聊天机器人上传健康文件的平台。最后，该诉讼要求更强大的防护措施，以防止ChatGPT回答关于具体医疗治疗和诊断的问题。ChatGPT应该已经为此类事情设定了防护措施，但诉讼称在此案中这些措施并未可靠地发挥作用。OpenAI表示，ChatGPT的服务条款明确指出，该服务不打算用于医疗诊断或治疗。然而，该公司希望用户将健康记录上传到ChatGPT Health，以促进与机器人的讨论。该公司还不断夸耀有多少人使用该平台进行健康咨询，最近表示每周有230万人这样做。这似乎是一条极其滑坡的道路，因为ChatGPT模仿人类的方式是简单的Google搜索所无法比拟的。Winters经历了这一过程，但将面临“数年的深入身体和心理康复。”该公司还面临一起错误死亡诉讼，19岁的一名青少年在 allegedly 遵循聊天机器人创建的治疗计划后服药过量。该治疗计划 reportedly 包含有关如何使用非法药物的建议。该诉讼还要求暂停ChatGPT Health。另一起错误死亡诉讼指控该聊天机器人助长了青少年的自杀。