返回

文章详情

AI模型可以可证明地隐藏任意能力

Hacker News2026年10月13日 02:07

查看PDF HTML(实验性) 摘要:能力评估旨在在部署之前揭示危险模型行为,但其可靠性依赖于隐藏能力可以被引导的假设。我们通过构造后门攻击来证明这一假设在对抗条件下不成立,该攻击在主模型权重中嵌入加密神经网络,仅在接收到秘密触发时解密并执行它们。使用数字保险箱,这些隐藏电路在密码学假设下被证明难以引导和解释,即使完全访问模型权重,也扩展了之前从隐藏固定字符串到任意计算的工作。我们在PyTorch中实现了我们的概念验证构造,并通过微调、权重噪声、基于梯度的触发器搜索和小规模化学反应预测任务(对于CBRN相关能力的代理)进行引导评估。我们的结果展示了对这些方法的抵抗力,并结合我们的密码学保证,揭示了基于引导的能力审计的限制。我们发布了我们的模型以支持防御的改进。 评论:22页,6幅图,3个表格。被NeurIPS 2026接受。 主题:机器学习(cs.LG);密码学与安全(cs.CR) 引用为:arXiv:2610.13928 [cs.LG](或arXiv:2610.13928v1 [cs.LG]作为此版本) https://doi.org/10.48550/arXiv.2610.13928 arXiv发行的DOI通过DataCite(待注册) 提交历史 从:Andis Draguns [查看邮箱] [v1] 2026年10月9日星期五 17:55:06 UTC(878 KB)

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡