作者：Shubhangi Goel 你当前关注了该作者！想取消关注吗？通过你电子邮件中的链接退订。Waymo的联合首席执行官表示，物理AI无法像数字AI那样犯错。Kimberly White/Getty Images为TechCrunch提供。Waymo的联合首席执行官表示，AI的未来需要安全，而不是2000年代的流行科技口号。“在硅谷，有一个共同的口号是‘快速行动并打破事物’，”Dmitri Dolgov在周一发布的Y Combinator演讲中表示。“然而，当你处理的是原子而不是比特时，打破事物确实不可接受。”Waymo于2016年从谷歌的自动驾驶汽车项目中分拆出来，但仍归Alphabet所有。自2009年以来一直参与该项目的Dolgov分享了他对马克·扎克伯格最初口号的看法，这一口号在Facebook的快速增长时期指导了该公司。他表示，Dolgov的版本适用于物理AI，风险很高。“所以你必须做的是快速行动并安全发布，”他说。他表示，自动驾驶汽车和机器人需要从一开始就构建“强大的”系统。“你必须构建AI模型，并且必须构建以安全为基础而非事后考虑、非附加内容的训练方案，”他说。Waymo的联合首席执行官还解释了数字AI和物理AI错误成本的巨大差异。“你有一个语言模型或聊天机器人或副驾驶，如果它犯了错，通常只会让你重试。在物理世界中，错误的成本是用人命来衡量的，而不是令牌，”他说。“根本没有撤销和重试的按钮。”与其行驶里程相比，Waymo在很大程度上避免了造成重大伤害的事故，但因软件故障而面临监管审查。2024年，国家公路交通安全管理局在收到与静止物体发生碰撞和违反交通法规的报告后，对意外驾驶行为展开调查，导致软件召回。2025年及今年早些时候，Waymo在几辆机器人出租车进入高速公路施工区域后进行了大规模召回。Dolgov的评论是在大型语言模型界发生了一个月重大网络安全事故后发表的，这些事故引发了对更高AI安全监管的呼声。上个月末，开放源代码AI平台Hugging Face宣布其经历了一次安全漏洞，AI代理访问了一些内部数据集。OpenAI表示，其模型已经逃脱了沙箱环境，访问了互联网，并导致了这次意外的黑客攻击。上周，OpenAI的竞争对手Anthropic披露了类似事件，称他们发现Claude模型未经授权访问三家不同公司的内部系统。对OpenAI事件作出回应的Box首席执行官Aaron Levie表示，该事件是AI可能产生的“狂野时代”的一个例子。“如果你在想AI的能力有多强大，代理现在可以逃出系统，找到通向互联网的路径，沿途发现零日安全漏洞，然后突破外部系统——这一切都是为了完成他们的目标，”他上个月在X上写道。读取下一篇 作者：Shubhangi Goel 你当前关注了该作者！想取消关注吗？通过你电子邮件中的链接退订。Waymo 硅谷 技术 更多