本周一，佛罗里达州在州法院提起诉讼，指控OpenAI及其首席执行官Sam Altman未能警告用户ChatGPT可能存在危险，而是将其宣传为安全可靠，包括对儿童而言。佛罗里达州指控OpenAI及其CEO Sam Altman为了盈利而忽视安全，这是针对ChatGPT制造商的首个州级诉讼，因其聊天机器人存在的缺陷。诉讼声称公司及Altman未能警告用户ChatGPT可能危险，而是将其宣传为安全可靠，包括对儿童。此次诉讼是全国范围内日益增长的努力之一，试图让人工智能公司对用户与聊天机器人的互动后果负责。诉讼指控OpenAI帮助和纵容大规模枪击案，包括一名在佛罗里达州立大学的枪手，指控其利用ChatGPT计划袭击，鼓励脆弱的人自杀，以及让孩子们"沉迷于一种假装展现人类同情的工具，以便在没有父母监督的情况下收集他们的数据。" "这一系列伤害源于被告对赢得人工智能竞赛和积累巨额财富的无止境追求，尽管他们知道ChatGPT的危险，"诉状中提到。"OpenAI的崛起源于一张欺骗的网络，对用户（包括佛罗里达人）的剥削，利用他们的数据和安全以不负责任的成本来提升OpenAI的市场价值。"佛罗里达州还寻求让Altman承担个人责任。"Sam Altman和ChatGPT选择了人工智能竞赛，而不是我们孩子的安全和保障，"佛罗里达州总检察长James Uthmeier在周一的新闻发布会上表示。他补充说，他认为Altman和公司可能会面临"高达数十亿美元"的罚款。"失去一个孩子是一个家庭所能经历的最具毁灭性的悲剧，我们知道没有任何语言能接近于解决这种损失的痛苦，"OpenAI发言人Kayla Wood在发给NPR的电子邮件声明中表示。"人工智能是一项新的强大技术，我们认为未成年人需要显著的保护，这就是我们为什么建立了行业领先的保护和政策，"声明继续说道。"特别是我们将未成年人的安全直接融入我们的产品中，包括为未成年人提供更具保护性的体验，一个年龄预测工具，默认将我们不确定年龄的用户转入我们更保护的体验，以及提供给父母监控孩子使用人工智能的工具。"诉讼声称OpenAI的安全措施，包括其家长控制措施，都是不够的，并且公司创造了"一种危险的公共滋扰。"诉讼的第一页以OpenAI网站上的截图开始，上面写着ChatGPT是"以安全为考量而构建的。"图片后面是一条脚注："并非如此。"Uthmeier的办公室还在对OpenAI进行刑事调查，涉及FSU枪手涉嫌在2025年4月袭击前咨询ChatGPT的情况。已经有超过20起诉讼针对OpenAI， alleging that the harms stem from ChatGPT usage, including by the families of victims killed and injured in a mass shooting in Tumbler Ridge, Canada, in February, the family of a victim killed in the FSU shooting, and the families of seven people, including one teenager, who died by suicide or suffered delusions after using the chatbot. Altman在四月向Tumbler Ridge社区道歉，OpenAI在回应这些诉讼时表示，它对使用其工具协助实施暴力持有"零容忍"政策。在Uthmeier宣布对FSU枪击案进行调查后，一位OpenAI发言人表示，聊天机器人"提供了对问题的事实回应，这些信息可以在互联网上的公共来源中广泛找到，并且没有鼓励或促进非法或有害的活动。"声明继续说："我们不断努力加强我们的安全措施，以检测有害意图，限制误用，并在安全风险出现时做出适当反应。"OpenAI称关于自杀和妄想的诉讼是"一个令人难以承受的情况"，并表示正在与心理健康专家合作，改善ChatGPT对精神或情感困扰迹象的反应。其他人工智能公司也因其聊天机器人被指造成伤害而受到法律审查。针对一名因与谷歌的Gemini聊天机器人建立联系而自杀的佛罗里达男子的过失致死诉讼，公司表示："Gemini被设计为不鼓励现实世界的暴力或暗示自残。我们的模型通常在这些类型的具有挑战性的对话中表现良好，并且我们对此投入了大量资源，但不幸的是它们并不完美。"它还补充说，Gemini曾"多次将该个体推荐给危机热线。"