如果说OpenAI-Hugging Face事件给我们上了一课，那就是人工智能代理可能会不可预测。拉普拉斯智能的首席执行官兼联合创始人霍威·孙（Howie Sun）告诉TechCrunch：“想象一下，如果这样的事情发生在物理世界中，我们可不希望物理人工智能在现实世界中失败。”总部位于安阿伯的拉普拉斯正在为机器人和物理人工智能建立自动红队测试——本质上，通过故意让系统失败来进行压力测试。这家公司认为，确保物理人工智能安全的唯一方法是让人工智能来测试它。“我们的目标是帮助公司在部署前发现和修复问题，并随着时间的推移建立一个客户、保险公司和监管机构可以信任的共享证据基础，”孙表示。拉普拉斯是20家参与TechCrunch Disrupt的初创公司之一，它将在10月13日（周一）下午的创业战场舞台上进行展示。霍威·孙，拉普拉斯智能首席执行官图像来源：拉普拉斯智能。孙与他的联合创始人和首席科学家亨利·刘（Henry Liu）在一年前从密歇根大学创办了拉普拉斯。在过去八年中，孙一直从事学术研究，探讨如何在模拟中挑战自主驾驶人工智能。他和刘（当时是他的博士导师）在2023年发表了一篇关于该主题的论文，登上了顶级科学期刊《自然》的封面。正是在那时，自主车辆公司开始接洽他们，表示有兴趣实施他们的想法。孙说：“我意识到我想要将这项技术从纯学术研究转化为现实世界中有用的产品。”在他们的学术研究的基础上，孙和刘建立了拉普拉斯，这个名字源于“拉普拉斯的恶魔”，这是法国学者皮埃尔-西蒙·拉普拉斯于1814年提出的一个思想实验，想象如果你知道宇宙中一切事物的确切状态，就可以以绝对精确的方式预测未来。“我们本质上是利用模拟来预测现实世界的未来，”孙说道。该初创公司的核心是一个从现实世界重建的高保真模拟，并配有一个不断探测弱点和失败点的人工智能代理。目标是在任何物理人工智能（无论是机器人、自动驾驶车辆还是智能城市解决方案）在现实世界中部署之前，确保其在模拟中是安全的。模拟环境是Nvidia的Cosmos，一个基于现实世界的AI世界模拟平台，拉普拉斯利用它重建了从亚利桑那州高速公路到巴黎人行道的场景。模拟通过融合不同现实世界信息的网格生成。谷歌街景的图片可以作为参考，从而生成整个街道。但模拟器并非生成随机的东西，而是结合现实世界的地图数据，重现一个真实比例的环境。开发者可以使用语言提示实时改变设置，比如加入午间交通。孙说，拉普拉斯从TomTom等导航服务提供商提取实时交通和拥堵信息。在拉普拉斯的模拟中，不仅环境会被模拟，其他参与者的行为也会被模拟。例如，在一次演示中，孙指示测试代理车辆进入迎面而来的交通。那辆本应被撞上的车（或根据一些生成世界模型的常见做法穿过的车）则移动以避免碰撞。“这真是一个互动的模拟环境，”孙说。“每个人都在对一切作出反应。……这更像是一个包含互动参与者的世界模型。”虽然模拟环境是拉普拉斯产品的重要部分，但真正的卖点是初创公司正在开发的自动设计边缘案例的人工智能代理（棘手且稀有的场景，可能会使人工智能系统出现问题），将人类进一步抛出循环之外。“他们可以从新闻、关于碰撞的警察报告中收集信息——所有这些信息都可以积极挑战自主车辆和其他物理人工智能代理，”孙指出。亨利·刘，拉普拉斯智能首席科学家图像来源：拉普拉斯智能。如今，自主车辆开发者主要使用录制的镜头来训练人工智能以处理边缘案例，然后将其转化为模拟，或依靠人类想出新的创意并进行设计。虽然许多自动驾驶公司已经开始采纳拉普拉斯所倡导的利用人工智能创建训练用边缘案例（例如自动驾驶货车公司Waabi），但当我们开始在现实世界中放置通用机器人时，这种技术的需求将会变得越来越明显。“关于通用机器人，数据较少，”孙表示。“没有人知道现实世界中边缘案例会是什么。”尽管孙和刘来自学术界，并没有光鲜的硅谷科技公司背景。