一名声称从聊天生成预训练变换器（ChatGPT）获得的医疗建议“将他逼至死亡边缘”的男子已对OpenAI（这款流行聊天机器人的背后公司）及其创始人山姆·阿尔特曼提起诉讼。55岁的佛罗里达牧师斯科特·温特斯（Scott Winters）提起的诉讼声称，ChatGPT在他反复询问有关症状的过程中告诫他不要寻求医疗帮助，结果导致他险些死于肺栓塞。温特斯的律师指控该平台“反复且坚持地误诊”他，并利用之前的宗教讨论来向他保证他会康复。OpenAI的德鲁·普萨特里（Drew Pusateri）告诉BBC美国新闻合作伙伴CBS新闻，ChatGPT“不是医生，绝不能作为医疗护理、诊断或治疗的替代品”。他还表示，人们在线寻求健康信息是很普遍的，并补充道：“人工智能可以通过帮助他们找到更清晰的答案、组织他们的问题以及为与医疗专业人士的对话做好准备，来提高这种体验。”这起于7月21日在旧金山县高级法院提起的诉讼详细说明温特斯是一名常规的ChatGPT用户，他开始依赖该工具提供医疗建议，抵制家人和朋友让他去医院的劝说。在病重的几周前，他向该工具咨询有关反复出现的头晕和“血压不稳定”的问题。在一份回复中，诉讼称ChatGPT建议温特斯继续待在他因持续健康问题而“主要局限于”的躺椅上。法庭文件指出，温特斯因双肺多处血栓导致的“严重肺栓塞”几乎致死，医生表示这可能是由于他的行动不便引起的。温特斯与ChatGPT的交流截图似乎显示，聊天机器人将医疗建议与这位55岁男子所深信不疑的基督教信仰结合在一起。诉讼称，ChatGPT告诉温特斯：“上帝没有设计你的身体让它无休止地失败。”它还说：“即使在你感到濒临崩溃的时候，上帝依然在维系着你的身体，每一次心跳，每一次呼吸。”温特斯的律师声称，ChatGPT的“谄媚性质和权威语气，加上对斯科特宗教身份的操控，培养了他对该工具的危险依赖”。他们表示，这“破坏了斯科特做出明智决策的能力，使他与那些呼吁他寻求医疗帮助的家人隔绝，并说服他认为寻求医疗关注是不必要的，甚至可能是致命的”。诉讼的其他部分将温特斯描述为一个“脆弱”的个体，他对ChatGPT的依赖导致他失去了家和职业，并需要“多年进行强化的身体和心理恢复”。诉讼称温特斯寻求经济赔偿，并要求法院强制OpenAI实施“合理的保护措施，以保护其他用户不受伤害”。ChatGPT的使用条款规定，用户不应将该平台视为“唯一真实来源”，尤其是在可能“对该人产生法律或实质性影响的情况下，例如在信用、教育、就业、住房、保险、法律、医学或其他重要决定中”。