现在你可以收听福克斯新闻的文章！自九月份雅各布·考克森在社交媒体发文以来，美国人一直在努力应对人工智能风险。上个月的一项POLITICO民意调查发现，63%的美国人认为人工智能可能导致人类灭绝的风险至少处于中等水平。随着立法者意见不一，公众对此 rightly 感到担忧：如果人工智能失控会发生什么？我们该如何准备？我是否处于风险之中？每个美国人日常生活中已经存在人工智能做出的决策，从贷款批准到工作申请。然而，华盛顿的反应却显得错综复杂：国会中的一些人提议设立一个关于人工智能的特别委员会，一些行业人士希望放宽反垄断规则，以便实验室能够在安全问题上进行协调，而白宫则起草了一项“超级智能部队”的章程。似乎没有办法摆脱这个困局，但紧急回答五个问题可以让这些焦虑得到缓解。1. 需要监管哪些风险？对风险的定义过于狭隘可能会忽视普通人面临的危害，而定义过于宽泛则可能使每一个人工智能产品都陷入繁琐的规章制度之中。根据询问对象的不同，风险范围从经济破坏到大规模伤亡再到灭绝。加利福尼亚州的SB 53将标准设定为“可预见且实质性风险”，即导致50人以上的死亡或严重伤害，或造成10亿美元的损失。纽约的RAISE法案将SB 53的伤亡阈值从50提升至100，但专注于开发过程中“造成或实质性促成”所涵盖的损害事件。人工智能灭绝警告在前安索气公司员工的病毒帖之后占据了头条。上个月，安索气的威胁情报报告发现研究人员在使用Claude的方式可能支持生物武器的开发。尽管无法确认意图，安索气还是禁止了这些账户，因为同样的工作可能会生产疫苗。有些人称之为合法研究，而另一些人则称之为邪恶。政府需要现在就划定这条界限，以便决定公众能够了解哪些危险。2. 谁算作“独立”的评估者，谁来决定？当你购买一辆车时，你知道有人检查过。美国人理应获得对人工智能是否安全的判断的清晰性。立法者和行业利益相关者越来越一致地认为，科技公司不应自我评分。共识在此止步。评估生态系统相对薄弱，而监管机构希望将很多责任放在其上。模特评估与威胁研究和阿波罗研究等组织被称为中立仲裁者。然而，实验室资金的增加将引发中立性的问题，政府可能会犹豫将这样的权限授予私营机构。当你购买一辆车时，你知道有人检查过。美国人理应获得对人工智能是否安全的同样清晰性。立法者和行业利益相关者越来越倾向于将这一任务交给商务部的人工智能测试中心。它与五个主要实验室达成了测试协议，但该中心今年仅有大约30名员工和1000万美元的资金，需要进行全面的改革。安索气在这一方面已经向前迈出了步伐，任命埃森哲为其首个嵌入式评估者。在决策者决定评估者之前，美国人几乎没法判断他们每天使用的人工智能是否安全。3. 如何平衡减缓人工智能发展与与中国竞争之间的关系？人工智能监管的严格程度将归结为一个判断：为了避免落后于中国，美国人应该接受多少国内风险。今年夏季，中国实验室Moonshot AI推出的Kimi K3在成本上与美国模型相匹配，动摇了市场。随着GLM 5.3（据报导其安全防护措施薄弱、具有危险的网络能力）发布后，人们对中国人工智能风险的担忧加剧。随着廉价开放权重模型、提炼和快速采用促进中国的雄心，许多政策制定者认为，除非放开限制建设，否则美国将依赖中国的基础设施。公众并没有买账，2024年，四分之三的美国人告诉民意调查员，他们更倾向于采取“谨慎、可控的方法”来发展人工智能，而不是竞相成为第一。批评者指出，中国已经施加了要求开发者检测、干预和恢复人工智能不当行为的指导方针。安全倡导者补充说，人工智能风险并不止于国界。官员们需要迅速找到这种平衡，因为它将影响美国人使用的人工智能的监管框架。美国人相信食品药品监督管理局会在医疗产品有缺陷时介入，但没有类似的机构可以在人工智能失控时介入。4. 当人工智能模型“失去控制”时应如何处理？美国人相信食品药品监督管理局会在医疗产品有缺陷时介入，但没有类似的机构可以在人工智能失控时介入。随着大约700个开放人工智能代理绕过Hugging Face的安全措施以获取能力测试的答案，关于递归自我改进——人工智能构建更智能版本自身的恐惧在今年夏季加剧，并在类似代理突破澳大利亚时达到高潮。