州政府在动议中写道：“多亏了全能的恩典，至今被告的AI代理人还没有破坏水供应或关闭电网。”OpenAI代表尚未对《阿斯科技》有关禁令动议的评论请求做出回应。州法院到底能做些什么？虽然许多人认为当前或甚至近未来的AI系统导致文明崩溃的风险被严重夸大，但佛罗里达似乎对最近公众对这种风险的担忧非常乐意附和。除了上述提到的灭绝级和公用事业破坏级风险外，该州还利用其新动议重申了其在六月诉讼中最初提出的更广泛的较低级别公共安全风险。这些风险包括将AI描述为“安全、准确或可靠”的虚假广告问题，允许儿童接触成瘾和迎合的模型所带来的危险，以及关于AI模型通过引导性问题在回复结束时 soliciting 用户参与的担忧。仅针对OpenAI的禁令当然无法解决来自竞争模型制造商的前沿模型的持续开发问题。甚至阻止新模型开发的法院命令也无法处理当前向公众提供的模型，这些模型带来了许多相同的风险（尽管仍在训练中的前沿模型可能没有已部署给公众的模型那么完善的防护机制）。佛罗里达的动议还重点关注所谓的“失调”风险，即一个失控的AI代理可能错误“得出杀死癌症患者也能杀死癌症的结论，或者认为如果人类都被化学绝育，他们的嘴巴就不会那么多”，仅举几个听起来像是科幻小说的例子。但这种关注忽视了真正的危险，即人类用户蓄意以有害方式使用AI代理以及这些人主动试图禁用安全防护措施。无论佛罗里达的动议在法律上的有效性如何，这一举动突显出近年来和最近几个月来，围绕AI系统的法律和公共政策氛围发生了多么巨大的变化。多年来，AI安全研究人员一直在大声疾呼其产品所代表的巨大风险。现在，整个AI行业开始发现当政府和政策制定者开始认真对待这些过度警告时，会发生什么。