
Perplexity的混合计算将敏感任务分配给云和本地AI
本地处理也可以降低成本。Perplexity在二月份推出了Perplexity Computer。与Claude Cowork一样,它是一套AI代理,能够自主使用网络以及您PC上的文件和应用程序完成任务。自那时以来,平台已经发展为包括几个不同的产品,包含Mac的个人计算机,今天Perplexity宣布了一种名为混合计算的新衍生产品。这项新工具允许您将任务拆分为基于云的前沿模型(如Opus 5或GPT-5.6 Sol)和在计算机上运行的本地LLM——目的是让本地模型处理任何敏感信息,以确保其在您的机器上保持安全和受保护。Perplexity建议了一些混合计算技术适用的不同用例。例如,律师可能想准备一份简报,将他们正在处理的案件与现有的案例法进行比较。在这种情况下,该工具将允许他们保持客户数据的机密性。Perplexity还将混合计算作为节俭用户通过将部分工作转移到(通常更昂贵的)前沿模型来节省推理成本的一种方式。“这直接集成到Mac应用中。每当您尝试上传文件或发送信息时,我们会自动检查敏感内容,并确保您希望将数据共享到云中。” Perplexity的Jon Staff说道,他负责公司的所有Mac产品。作为此次发布的一部分,公司训练了一个新的隐私分类器,将自动建议用户应保留在计算机上的文件和信息。在混合计算开始在不同模型之间分配任务之前,您将能够查看它想要限制访问的文件,以双重确认它是否没有遗漏重要内容。在这个阶段,您还可以决定希望使用哪些模型来处理工作。在本地方面,您的选择包括Gemma E4B以及Qwen的35亿参数3.6模型的两个版本。其中一个变种是由Perplexity进行后训练的。该公司表示将来还会提供更多本地模型。无论您选择哪个选项,安装本地模型都不需要打开Mac的终端,Perplexity的应用程序会处理安装过程。一旦系统启动,您将看到一个可视化显示本地CPU、GPU和内存的使用情况。在旁边,一个侧边栏显示任务消耗了多少个token。您不会因本地模型在您个人计算机上生成的任何token而被收费。系统生成输出后,您可以像往常一样编写后续指令。您还可以使用iPhone来排队任务。我问Staff是否对混合计算生成的输出与完全基于云的系统进行了基准测试。“简短的回答是,完全基于前沿的输出在原始产物创作方面几乎总是更好。这更昂贵,更强大。”他说。然而,Staff补充说,一些用户在完成工作时并不需要访问最佳、最强大的AI模型,而在这些情况下,数据隐私和成本可能是更重要的因素。“我认为这必须是一个动态的尺度,我们希望用户能够控制他们在这个动态尺度上的位置,以适应他们想要做的特定类型的工作。显然,考虑到我们拥有的上下文,我们会尝试建议最好的方案,但最终用户需要能够决定适合他们的解决方案。”Staff说道。就目前而言,混合计算仅在运行macOS 15的Apple Silicon Mac上可用,Perplexity建议至少配置32GB的统一内存。该功能可供Pro和Max订阅用户以及公司的企业客户使用。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡