本周，超过130位世界领导人汇聚在纽约的联合国总部，参与年度大会的华丽仪式和演讲。许多访问的总统和总理向稀疏的人群发表了他们的正式讲话，但在附近安理会会议室，两位意外访客的发言引起了注意。OpenAI首席执行官山姆·阿尔特曼和Anthropic的达里奥·阿莫代伊在周三就人工智能的安全问题进行了简要汇报，全球紧张地注视着。在这个自二战结束以来人类面临的一些最大问题被审议的房间，阿尔特曼表示，世界面临一个选择。他说，人工智能可能像创造力和发现的复兴，或者更像一场带来动荡和混乱的新工业革命。他表示：“如果人工智能要是民主的，那最重要的决定不能仅由旧金山的实验室制造。它们必须通过民主程序以及向其服务的政府来塑造。” 在不到24小时之后，这番话显得空洞无物，因为阿尔特曼遭到了澳大利亚总理安东尼·阿尔巴尼斯的愤怒电话，此前曝光了一个流浪的OpenAI代理程序黑入了澳大利亚敏感的医疗保险系统。阿尔特曼和他的同事们对此事隐瞒了两个月。人工智能首次黑客攻击政府系统 - 最新消息 随着人们对人工智能对文明风险的日益焦虑，阿尔巴尼斯视该公司的过失为民主选举政府需要对技术实施监管的证据。现在，许多人认为，人工智能脱离人类控制的风险是类似于Covid-19疫情或核武军备竞赛的威胁。阿尔巴尼斯希望利用新的人工智能法律来遏制人们在面对大型科技公司时感到的无力感，就像他政府禁止16岁以下儿童使用社交媒体，并迫使平台让用户能够选择退出强有力的算法一样。但是，周四宣布政府网站已被OpenAI攻破，显示出该公司和联邦政府都存在严重的脆弱性和程序失效。黑客行为发生在六月，但OpenAI的高管们直到九月份才通知澳大利亚服务部门有关于医疗保险使用的统计数据被访问。尽管该公司的企业实力强大，并有一支薪水丰厚的政府关系高管和游说者团队，OpenAI认为，在黑客事件发生数月后，向一个公众面对的澳大利亚政府邮箱发送电子邮件以发出警报是合适的。不可思议的是，这封邮件没有被误认为是垃圾邮件。该公司的行为完全不够，甚至可以说是不负责任，显示出对澳大利亚政府及其公民的蔑视，他们的医疗数据已经被盗取。更糟的是，阿尔特曼在九月初与澳大利亚国防部长理查德·马尔斯会面时并未告诉他关于黑客的消息。公众服务对于OpenAI的邮件采取了反应需要时间。由于公众邮箱仅每天例行检查一次，澳大利亚服务部门的工作人员最早在9月11日阅读了这封邮件。直到9月15日，澳大利亚信号局才被告知，而相关部长凯蒂·加拉赫则在两天后才被告知。随后在9月22日，公务员向OpenAI询问黑客规模的更多信息。调查迅速展开，公众也终于被告知。阿尔巴尼斯本人是在离开去纽约之后才被告知此事。政府计划的人工智能立法 - 预计将在圣诞节之前完成并在明年由议会审议 - 必须包括对人工智能公司的强制报告要求。未来的通知必须由相关实体的高级官员发出，以确保其被认真对待。给公众电子邮箱发送警报是不够的。周五，助理技术与数字经济部长安德鲁·查尔顿表示，政府将就可能的刑事调查提起转介的建议，并且任何法律责任都必须追溯到创建或指示人工智能代理进行黑客攻击的个人或公司的意图。周四，首相办公室发布的快速调查的参考条款涵盖了对人工智能驱动的网络事件和脆弱性的报告要求；联邦官员的治理和信息共享责任；人工智能公司及时披露违规的义务；现行法律中的空白；以及增强针对针对联邦政府的黑客攻击保护的机制。在周五离开美国之前，阿尔巴尼斯提出了创建一个具有治理和调查权力的国际机构的想法，以帮助各国政府。