如果OpenAI与Hugging Face事件教会我们的一个教训，那就是人工智能代理可能是不可预测的。拉普拉斯智能的首席执行官兼联合创始人孙浩伟在接受TechCrunch采访时表示：‘想象一下，如果这样的事情发生在物理世界中。’‘人工智能代理正在从计算机走向现实世界，我们并不希望物理人工智能在现实世界中失败。’位于安娜堡的拉普拉斯正在建立自动化红队——本质上，通过故意尝试使系统失败来对系统进行压力测试——用于机器人技术和物理人工智能。该公司押注于，确保物理人工智能安全的唯一方法是让人工智能来测试它。孙表示：‘我们的目标是帮助公司在部署之前发现并解决问题，并随着时间的推移，建立一种客户、保险商和监管机构可以信赖的共享证据基础。’拉普拉斯是参加10月13日至15日在旧金山举行的TechCrunch Disrupt创业大赛的20个初创公司之一。它将在10月13日星期二下午的Disrupt舞台上进行演示。拉普拉斯智能首席执行官孙浩伟，图片来源：拉普拉斯智能。孙浩伟与他的联合创始人和首席科学家刘亨利于一年前从密歇根大学创办了拉普拉斯。过去八年间，孙一直在学术界研究如何在模拟中挑战自动驾驶人工智能。2023年，他与刘——当时的博士生导师——共同发表了一篇论文，登上了顶级科学期刊《自然》封面。正是在那时，来自对实施他们的想法感兴趣的自动驾驶汽车公司的电话开始打进来。孙表示：‘我意识到我想要建立这个，并将其从纯粹的学术研究转变为在现实世界中有用的产品。’基于他们的学术研究，孙和刘建立了拉普拉斯，该名称源于“拉普拉斯的恶魔”，这是1814年法国学者皮埃尔-西蒙·拉普拉斯的一个思想实验，他想象如果你知道宇宙中所有事物的确切状态，你就能够完全精确地预测未来。孙表示：‘我们根本上是在利用模拟来预测现实世界的未来。’这家初创公司的核心是一种基于真实世界重建的高保真模拟，与一个不断探测弱点和故障点的人工智能代理配对。目标是确保任何物理人工智能——无论是机器人、自动驾驶车辆还是智能城市解决方案——在部署到现实世界之前在模拟中是安全的。模拟环境是基于Nvidia的Cosmos，一个扎根于现实世界的AI世界模拟平台的后训练版本，使拉普拉斯能够重建从亚利桑那高速公路到巴黎行人过街道的任何东西。模拟是通过融合不同现实世界信息的网格生成的。谷歌街景图像可以作为参考，从中生成整条街道。但并不是生成随机内容，模拟器结合真实世界地图数据，重新创建一个真实比例的环境。开发者可以使用语言提示实时改变环境，比如增加下午的交通。孙表示，拉普拉斯实时获取来自TomTom等导航提供商的交通和拥堵信息。在拉普拉斯的模拟中，不仅环境被模拟，其他参与者的行为也被模拟。例如，在一次演示过程中，孙指示测试代理车辆向迎面而来的交通路面驶去。它将要撞上的汽车——或者说如一些生成模型常见的那样驶过它——避开了碰撞。孙表示：‘这确实是一个互动模拟环境。’‘每个人都在对一切做出反应……这更像是一个具有互动参与者的世界模型。’虽然模拟环境是拉普拉斯产品的重要组成部分，但真正的独特卖点是初创公司正在开发的人工智能代理，这些代理可以自动设计边缘案例（可能使人工智能系统陷入困境的棘手、罕见场景），将人类进一步排除在外。孙表示：‘他们可以从新闻、关于碰撞的警察报告等各种信息中设计——以主动挑战自动驾驶车辆和其他物理人工智能代理。’拉普拉斯智能首席科学家刘亨利，图片来源：拉普拉斯智能。如今，自动驾驶汽车开发者主要是使用录制的镜头进行训练，以处理边缘案例，然后将其转化为模拟，或者依靠人类提出新的想法并进行设计。许多自动驾驶公司已经做了拉普拉斯所宣传的事情，开始利用人工智能创建训练的边缘案例——像自驾卡车公司Waabi就很典型——但这种技术的需求在我们开始将更通用的机器人放入现实世界时将真正显现出来。孙表示：‘关于通用机器人数据较少，没人知道现实世界中的边缘案例会是什么。’尽管孙和刘来自学术界，并没有超越初创公司的技术和商业背景，但他们正在努力将该技术推向更广泛的应用。