随着人工智能模型变得越来越强大，这些模型被滥用的潜力也随之增加——对于能够防止这种滥用发生的安全防护措施的呼声也在增强。AI公司必须在尊重企业客户隐私的同时，监控使用情况以发现潜在问题，这无疑是一项微妙的平衡。OpenAI刚刚宣布了一个以隐私为中心的安全监控方法，以期超越其对手Anthropic，该公司为特定客户预览了一项名为“私人安全处理”的新服务。这是一个自动化系统，它在监视潜在滥用的同时，不保留任何客户数据。该系统显然与Anthropic最近公布的数据保留政策相悖。该政策引发了一些客户的不满，使得AI实验室能够在“涵盖模型”的情况下保留用户数据（所有的会话及其中的对话）30天。该公司表示，这些模型包括所有的神话类模型和“未来具备类似能力的模型”。这一于7月公布的政策旨在出于安全考虑，让实验室能够筛选和分析潜在的不当行为。然而，它让一些处理大量敏感数据的企业深感担忧，因他们不希望自己的数据被AI实验室存储或检查。OpenAI像其他大多数AI公司一样，已经通过遵循一项称为零数据保留（Zero Data Retention，ZDR）的政策，向客户提供了一定程度的隐私保护。ZDR利用OpenAI API中的代理按会话监控滥用情况。通过这种方式，客户数据不会被公司保留，但企业仍能够在无需人工干预的情况下扫描不当活动。值得注意的是，Anthropic也在很大程度上遵循ZDR——除了“涵盖模型”，例如Fable。OpenAI表示，私人安全处理是一项扩展ZDR范围的新技术。它将其描述为一种长期安全监控形式，评估多个对话的输入和输出，而不仅仅是一个。再次强调，监控由一个代理进行，如果触发，该代理会捕捉互动并分析跨会话的潜在滥用迹象。OpenAI的一位发言人告诉TechCrunch，这项新技术帮助OpenAI检测到在多个会话中发生的恶意使用情况。假设有一个恶意行为者试图为网络攻击设计恶意软件，他们可能会分散请求以避免被检测到。私人安全处理能够分析这些多个对话中滥用的迹象，而无需人工审核用户的对话。如果系统被触发，OpenAI可能会向其发送“狭义定义的信号”，警告特定类型的活动。基于该信号，OpenAI可以决定是否“需要执行措施”。如果是这样，OpenAI将联系客户以获取更多背景信息或与他们合作解决问题，客户可以选择在酌情的情况下与OpenAI分享数据，发言人表示。相比之下，Anthropic指出，客户数据的人工审核可能会进行，但仅通过“受控访问路径”，并涉及“经过批准的一小部分审核员”。该公司表示，所有这些审核会话都“记录在不可篡改的日志中，审核员无法隐藏或修改该日志”。目前，OpenAI和Anthropic之间的企业竞争非常紧张，两家公司正在寻找任何机会来寻求优势。最近的一份报告显示，OpenAI的第二季度增长速度低于Anthropic。Anthropic的年化收入运行率目前据报道为650亿美元。Anthropic的投资者表示，该公司可能以2万亿美元的估值上市，而OpenAI也在筹备其首次公开募股（IPO）。当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Lucas是TechCrunch的高级撰稿人，主要报道人工智能、消费科技和初创公司。他曾在Gizmodo报道人工智能和网络安全。您可以通过发送电子邮件至lucas.ropek@techcrunch.com与Lucas联系。查看个人简历