苹果正在与一家创业公司洽谈,该公司能缩小 AI 模型以在 iPhone 上运行
2025 年 9 月 19 日,客户在苹果商店进入新款 iPhone 17 发布会时,展示了一则新 iPhone Air 的广告。安吉拉·韦斯 | 法新社 | Getty Images 苹果正在与一家位于硅谷的小型公司洽谈,该公司表示它可以将强大的人工智能模型压缩到足够直接在 iPhone 上运行,该创业公司的首席执行官告诉 CNBC。PrismML 是加州理工学院的 Khosla Ventures 支持的衍生公司,该公司在周二公开发布了阿里巴巴开源的 Qwen 模型的压缩版本。该公司表示它将模型的大小从大约 54 GB 减小到 4 GB 以下,从而使所有 270 亿个参数能够在 iPhone 15 或更新型号上运行。PrismML 首席执行官巴巴克·哈西比告诉 CNBC,苹果和其他公司一直在评估该创业公司的模型,并测量其在设备上的速度、能效和性能。“他们现在真的在评估我们的技术,”哈西比谈到苹果时说道。他将讨论形容为非常早期,并表示尚不清楚将会引向哪里,但“事情进展得很好”。苹果没有立即回应置评请求。《信息》曾报道 PrismML 的突破。此次发布恰逢苹果在一天后开放 iOS 27 的公共测试版,给予 iPhone 用户首次广泛访问该公司长期延迟的 Siri 改革。苹果试图使 Siri 更加具有竞争力,以与 OpenAI 和 Anthropic 的助手抗衡,同时将更多的个人信息和 AI 处理保留在设备上。该公司的方法可以解决苹果 AI 策略面临的一个核心限制。最强大的模型通常需要过多的内存和处理能力,无法在智能手机上运行。苹果可以将复杂的请求发送到基于云的模型,但在 iPhone 上直接运行更多 AI 将减少发送数据到远程服务器所需的延迟,降低云计算成本,并支持该公司的隐私宣传。它还将允许某些功能在没有互联网连接的情况下工作。卡罗琳娜·米兰西,Creative Strategies 的总裁和首席分析师表示,小型模型可以让苹果将更具挑战性的功能移到 iPhone 上,包括计算摄影、视频生成和依赖敏感个人数据的健康或健身工具。“您在设备上可以做的越多,效果就越好,”她说,指出用户希望保密的健康和药物数据。PrismML 表示它通过彻底简化内部信息的存储方式来缩小 AI 模型——将每个值从 16 位减少到仅一个或三个可能的值。这极大地减少了存储和操作模型所需的内存。哈西比将其与芯片行业从 8 位计算转向 4 位计算进行了比较,但进一步向前发展。该创业公司表示,压缩模型使用的内存减少了 10 倍到 15 倍,生成响应的速度比现有硬件上的常规版本快 6 到 8 倍,能耗减少了 3 倍到 6 倍。然而,哈西比承认这存在权衡。PrismML 的模型通常会损失几个百分点的整体性能,事实回忆能力减弱,随后是推理、数学和编码等技能,哈西比说。PrismML 将发布两个压缩版本的模型供免费使用。它们设计用于在日常设备上运行,包括 iPhone、MacBook 和 Nvidia 计算机。该技术源自哈西比在加州理工学院的研究小组。该大学拥有基础专利,并将其独家许可给 PrismML。今年 3 月,该公司筹集了 1625 万美元的种子轮投资,由 Khosla Ventures 和其他投资者支持。哈西比表示,谷歌的开源 Gemma 模型是下一个计划,其后是更大的模型,包括来自前沿实验室的模型,这些模型通常需要数据中心硬件。根据 PrismML 的说法,该技术最终可能不仅限于手机和笔记本电脑,还能够扩展到机器人、自主系统和其他需要快速做出决策而不依赖于云连接的产品。"智能必须是本地的,并且能够快速运行,这非常重要,"他说。苹果的本地优势 苹果已经在本地运行其 AI 系统的某些部分,包括翻译、一些摘要以及与个人信息密切相关的功能。更复杂的请求则路由到苹果的私人云基础设施或外部模型。Asymco 的创始人霍勒斯·德迪乌表示,苹果可能试图将绝大多数常见的 Siri 交互保留在设备上,同时将最具挑战性的任务保留给云。优势不仅仅在于使用更少的内存,德迪乌说,而是在于在相同的物理限制内适应更强大的模型。“他们试图弄清楚可以在设备上适配多大的模型和多聪明的模型,”德迪乌说。将常见请求保持在本地能够降低延迟,增加隐私,并可能减少
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡