Vercel CEO Guillermo Rauch谈如何将模型与代理分离
Vercel因其云基础设施而闻名,使开发人员能够在不管理服务器的情况下部署代理,悄然成为AI软件中最核心的公司之一。该公司目前每天看到600万次部署,其中一半是由编码代理触发的,每天有超过1万亿个标记通过公司的AI网关流动。在上周公司的ShipNYC会议后,我们与Vercel CEO Guillermo Rauch坐下来,听取他对这一AI时刻的看法,以及像Vercel这样的平台公司如何与主要实验室竞争。以下是稍加编辑的记录。今年社区似乎有一种不同的活力,试点项目较少,更加关注如何在实际中使事情运作良好。我相信你在客户那里看到了很多这一点,但我很好奇这一旅程在Vercel内部是怎样的。去年是原型制作的一年。天空是极限,释放代理,人人都可以构建,等等。我们做到了,并且学到了很多,因为我们在公司内部有数百个由我们自主开发和部署的代理,然后你开始接触生产中代理的现实和一些挑战。对我来说,最大的教训是那些跑赢的用例,即代理的两个杀手级应用。一个当然是编码代理。这正推动着全球的标记利用,但当你产生这么多软件时,你需要一个存放它的地方。第二个代理的杀手级应用是内部代理,帮助你管理公司。挑战在于,如何安全地访问数据?如何审核代理的操作?如何获取代理在完成工作所需的所有工具调用和访问控制的记录?为了解决这个问题,我们提出了一个叫做Eve的框架,你可以用自然语言列出代理的指令和技能。另一个工具是Vercel Sandbox,你把代理放在一个小笼子里。它仍然可以自由地表达其智慧,但你可以在它可以访问的数据以及什么数据可以离开沙盒上施加政策。这样解决了什么问题?对于Sandbox而言,最大的优势是数据控制。我总是想到AI的一个真实风险是,当你得到一个编码IDE,比如Devin或Cursor,如果你处于错误的设置中,它们可能会在你的整个代码库上训练。我还记得与空客总裁谈论这个问题。你拥有数十年非常具体的C++航空航天工程代码的财富。有人进来安装了错误的开发工具,瞬间,所有代码都上传到云端进行训练。我很好奇更多关于那个第二个杀手级用例的信息。我们都知道编码代理,但内部企业代理在实践中是什么样子?所以,有一个销售代表坐在那里[在Vercel的办公室]。她工作在安装基础上。她的工作是增加现有账户的数量。像她这样的人最大的瓶颈不是她的创造力、智慧、建立关系的能力,而是数据。“我不知道哪些账户增长更快。给我过去两周增加座位最多的五个账户,这样我就可以优先安排我的工作。”她以前无法问这个问题。她需要等到一个新的销售仪表板的Q1项目完成。我们在Vercel经历过多年的瓶颈,这让人很沮丧,因为在研发方面,我们是世界上发展最快的公司。但在销售引擎,即Salesforce工程方面,我感到非常无能。当我开始时,我从未打开过Salesforce。现在我觉得我可以在整个公司产生影响,因为Eve可以用于我们面向客户的代理,也可以用来提高生产力。同样的技术,只是APIs。代理迫使公司开放,这将产生深远的长期影响。这么多这些SaaS巨头的整个王国都建立在限制你的数据之上,这与代理是不兼容的。你如何看待与大型AI实验室的客户关系变化?去年有很多人选择一个实验室合作伙伴——说他们将在OpenAI或Anthropic上构建一切。现在他们说,我明白这一切如何运作——模型、工具、数据平台、沙盒、网关——每一部分都是即插即用的。你可以使用OpenAI,可以使用Anthropic,或者可以使用Gemini。我们看到Gemini的增长很多,尽管它没有那么多新闻,因为人们现在正在优化生产。现实是,当你优化生产时,你开始关注价格/性能,而Gemini模型具有出色的价格/性能特征。你还引入了开放模型,所以Deepseek和GLM-5.2正在迅速发展。数据不说谎。确实有些地方你与实验室直接竞争,对吗?就在上个星期,OpenAI发布了一套新工具,可以直接发布到网络,而不必离开
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡