今天我们很高兴展示HEIR，这是我们私人计算工具包中新增的强大工具。HEIR是一个开源编译器，可以解锁经过密码学安全保护的私人AI推断。随着人工智能的发展，新利益不断涌现，平衡隐私和安全成为人们关注的焦点。标准保护措施如端到端加密往往存在一个权衡：用户数据可以防止数据泄露，但服务提供商就无法提供依赖于数据的功能，例如垃圾邮件或病毒检测。医疗和金融等关键领域对这些风险更是高度敏感，严格的规定限制了跨机构的数据共享。提供相同功能的替代机制，如本地处理，受到本地设备的能力和服务提供商知识产权敏感性的限制。将专有AI发送到设备可能会导致模型泄露。解决这些问题的方法是同态加密，这是一项快速成熟的技术，根本性地改变了这种权衡，允许直接在加密数据上执行计算。服务器可以处理密文并返回加密结果，而无需暴露任何底层信息。例如，云服务可以提供内容推荐，而无法查看用户的特征。这并不是夸张：本文中展示的其中一个演示正是这样做的。但是，虽然同态加密具有非微不足道的成本开销，但它将能力/隐私的权衡转变为成本问题。同态加密的成本正在迅速下降。谷歌在隐私技术方面的创新历史——从差分隐私、私人集合成员资格到私人信息检索和谷歌云上的安全区——始终注重保护用户数据。同态加密是我们添加到私人计算工具包中的另一个强大工具。与私人信息检索一样，与基于硬件的解决方案相比，同态加密的强安全性和隐私保障纯粹是密码学的。然而，将现有程序有效地转换为使用同态加密需要一个密码学家团队。关于HEIR 为了解决可用性挑战并推动同态加密提供的机会，谷歌的研究人员和工程师构建了HEIR编译器项目。HEIR（Homomorphic Encryption Intermediate Representation）是一个用于同态加密的开源编译工具链和开发平台。特别地，HEIR可以将在未加密数据上运行的预训练AI模型转换为在加密输入上运行。我们的愿景是使HEIR成为一个一键解决方案，让非专家能够将加密推断集成到生产应用中。自2023年公布我们的意图以来，我们看到同态加密社区采纳了HEIR。我们与开发同态加密硬件加速器的公司合作，包括Belfort、Niobium、Cornami和Optalysys。这些努力的成果在我们的演示中得到了体现，我们计划在不久的将来展示这些加速器的延迟优势。HEIR也已成为一个高效的研究平台。通过构建HEIR，密码学家可以专注于特定的优化，并利用现有基础设施进行测试、基准测试和比较。这导致了与乔治亚理工学院、卡内基梅隆大学、加州大学圣巴巴拉分校、伊利诺伊理工学院、普渡大学、爱丁堡大学、清华大学等的合作。迄今为止，四篇经过同行评审的论文是基于HEIR构建的，还有更多正在准备中，HEIR已积累了大量的引用。HEIR的应用 为了展示同态加密的发展程度，我们分享了四个私人推断应用。每个应用都使用HEIR进行编译，并呈现了单线程CPU的延迟数据。所有示例的源代码可在我们的GitHub库中获取。深度学习推荐模型解锁了提供私人内容推荐的能力，这是与Belfort Labs、LG和纽约大学的合作成果。信用卡欺诈检测：与Niobium和hardshell.ai合作，我们编译了一个信用卡欺诈检测器。威胁入侵：与Niobium合作编译了Kitsune系统，用于加密网络流量的异常检测。这使得服务提供商可以检测异常，而无需向服务提供商泄露网络数据包的内容。热词检测器：与Belfort Labs合作，我们编译了一个热词检测模型，可以使音频触发的AI代理在保护音频录音隐私的同时识别热词。随着软件行业在人工智能的安全和隐私变化中适应，我们的研究团队正在致力于让同态加密变得易开发、快速运行，并在行业中无处不在。