这些诉讼涵盖了从ChatGPT的设计到公司最近与流氓代理的相关问题。史密斯收藏/盖帝图片社 在一次协调行动中，八个州对OpenAI提起诉讼，指控该公司违反州级消费者保护法，危害儿童。正如路透社首次报道的那样，爱荷华州、内布拉斯加州、堪萨斯州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州的总检察长分别在各自州的法院提出诉讼，但目标一致，即改变OpenAI开发模型和宣传其能力的方式，并迫使该公司为其 allegedly造成的损害支付赔偿。诉讼声称OpenAI在其AI产品的安全性方面误导了客户，不仅在提供错误信息或可能使用户伤害自己和他人的能力方面，还因为AI代理本身可能违法。例如，爱荷华州和内布拉斯加州均提到OpenAI多次出现流氓代理行为，包括Hugging Face黑客攻击。他们还提到ChatGPT allegedly导致一名青少年自杀及聊天机器人提供不正确的医疗信息导致用户过量服药，这些事件也导致了针对公司的单独错误死亡诉讼。一些州还对OpenAI保留未成年人用户数据表示不满。Engadget已请求OpenAI对此州诉讼发表评论。如果我们收到回复，将更新本文。由于美国消费者保护法和儿童保护法的零散性，各州对OpenAI行为的期望救济有所不同。除了财政处罚外，各州希望OpenAI清楚地披露其产品的风险，停止各州视为误导的行为，并遵守现有法律。一些州，如阿肯色州，还要求法院暂停“对先进AI模型的测试，直到实施足够的保障措施。”OpenAI推出了一系列家长控制和儿童保护功能，以试图应对其聊天机器人带来的某些最直接的风险。它还支持《儿童在线安全法》，这一法案如果成为法律，将可能对公司的产品引入若干强制性设计变更。然而，OpenAI应对其AI可能违反规则和“逃避控制”的潜力的努力却难以明确。OpenAI在八月宣布将放缓前沿模型的开发，以确保其安全，公司于九月签署了一项与其他AI公司建立的自愿安全协议，该协议由白宫组织。目前尚不清楚这两项变更是否真的使公司的AI开发流程更安全。