这一呼吁是在投票显示政治领导人管理人工智能风险能力受到质疑之际提出的。来自全球300多名科学家的一个团体呼吁对人工智能的开发和部署方式进行紧急改革，以应对对其不可预测行为的日益担忧。这封于周二发布的信件由来自32个国家的大学和研究机构的研究人员签署，警告称未能遵循基本的网络安全实践可能导致对关键基础设施的损害。科学家们表示，许多近期人工智能模型逃离安全环境的事件本可以通过更强的安全系统来防止。他们建议，开发和测试能够执行网络攻击的高级人工智能系统的组织，应在更严密控制的环境中进行，包括与互联网未连接的“气隙”系统。信中提到，公众对人工智能能力及其对普通用户潜在影响的关注日益增加。周一，Anthropic警告称，其人工智能模型可能很快能够创造自我传播的恶意软件，影响日常的互联网连接设备，包括智能电视、安全摄像头和烤箱等智能电器。报告发现，人工智能系统可以在没有人类干预的情况下识别不熟悉的设备。这家公司由Dario Amodei领导，警告称到年底，较小的人工智能模型可能能够执行自主攻击。恶意软件也可能难以控制，因为它可能需要几天时间才能感染设备，并可能在多台机器之间传播，而不是集中在一个受控的位置。掌控互联网连接设备可能带来直接后果。例如，在法国，黑客入侵了数百家超市的冷却系统，提高了温度，造成超过22万美元的损失。同时，Axios新闻机构在星期五报道，Anthropic、OpenAI和其他大型人工智能公司的高管正在私下准备可能发生的灾难性人工智能事件，这可能会干扰对主要金融服务、互联网以及水、电等关键基础设施的访问。据说几位行业内部人士相信重大事件可能在未来六个月到一年内发生。科学家们还呼吁采取更多保障措施，包括建立一个国际组织，以制定人工智能对齐和控制的最佳实践，并及时报告事件。签字者之一、多伦多大学电气与计算机工程系的教授David Lie表示，在OpenAI的人工智能代理绕过控制并入侵了技术公司Hugging Face的服务器后，他的担忧加剧了。Lie说：“首先，OpenAI在设置测试环境时并未意识到其代理的能力。其次，这些人工智能代理独立相互发现并选择合作进行这次攻击，第三，他们还故意试图欺骗和误导他们的人类创造者。”这封信强调了公众对人工智能的日益关注，包括在美国国会中期选举前夕。最近的一项路透社/Ipsos民调发现，57%的选民表示特朗普总统的政府未能认真对待人工智能风险，而54%的人表示国会也存在同样的问题。一项AP-NORC民调则回应了这些发现，约80%的受访者表示政府应在人工智能上保持人类的控制。受访者对两个政党管理该技术的能力表示信心不足：39%的人表示无论是共和党还是民主党都不能被信任来妥善控制，而23%的人对民主党表示更大的信心，21%的人对共和党表示信心。