分享：雅加达 - 在安全研究人员拆解了克劳德代码中的隐藏追踪代码后，Anthropic正面临公众关注。据称，该代码在中国监控用户，并在调查结果引起公众担忧后立即被删除。根据《阿斯科技》的报道，网络开发者Thereallo在研究克劳德代码的隐私问题时发现了该代码。他称追踪方式类似于间谍软件，是对用户信任的“严重侵犯”。克劳德代码是Anthropic推出的一款基于人工智能的工具，帮助开发者编写、阅读和改进代码。由于它与用户计算机上的文件和命令密切相关，因此在这种工具中，隐秘的追踪成为了一个敏感问题。根据Thereallo的说法，Anthropic使用“提示隐写术”的技巧在系统中隐藏标记。简单来说，隐写术是一种在看似普通的地方插入隐藏信息或信号的方法。该代码不被认为是危险的，但它在用户不易察觉的情况下向Anthropic发送信息。这些信息包括时区、代理使用情况以及用户与Anthropic被指控进行蒸馏攻击的中国人工智能实验室的关系可能性。在X上，Anthropic工程师Thariq Shihipar承认追踪器是在三月作为“实验”添加到克劳德代码中的。他表示，该代码是为了防止非官方转售商对帐户的未授权滥用，并保护Anthropic免受蒸馏攻击。AI中的蒸馏是利用一个模型的输出训练或加速另一个模型发展的过程。这种做法并不自动违法，但如果通过让像克劳德那样的模型模拟其能力作出数百万次回应，则可能违反服务条款。Shihipar表示，Anthropic实际上打算删除该代码，因为技术团队已实施了更强的保护措施。然而，这一解释并未缓解批评。隐私倡导者认为，Anthropic通过选择隐藏方式来监控用户，越过了界限。因为Anthropic之前拒绝了美国政府使用克劳德监控美国用户的请求，公众的关注度愈加强烈。《阿斯科技》写道，此事件发生在美国人工智能公司日益积极地遏制被怀疑模仿其模型的中国公司之际。《华盛顿邮报》报道称，过去一年里，中国公司能够在短短几个月内匹配美国模型的能力。Anthropic还主张将蒸馏攻击视为知识产权盗窃。该公司与OpenAI一同敦促美国政府采取更严格的法律和出口政策措施。这一发现的影响在中国立即显现。《南华早报》报道，阿里巴巴禁止其员工在工作中使用克劳德代码。在SCMP审阅的一份内部备忘录中，称克劳德代码存在“后门”风险，并被列入高风险软件名单。阿里巴巴尚未对Anthropic关于蒸馏的指控发表评论。然而，路透社报道，如果发现阿里巴巴违反了Anthropic的规定，该公司面临法律和合规问题的风险。Anthropic目前处于困境。该公司希望保护其人工智能模型不被模仿，但这种隐秘的方式带来了新的问题，即用户信任。Thereallo认为，Anthropic实际上可以选择更公开的方法。如果想要检测克劳德的非正式访问路径或帐户滥用，公司可以提供官方说明、文档或发布说明。“这不是一个危险的功能，但对于一个要求信任的开发工具来说，这是一个奇怪的选择，”Thereallo在他的博客上写道。他还提醒说，基于AI的编码工具已处于敏感领域。这类工具可以检查代码、运行命令、安装软件包、编辑文件，甚至在用户的计算机上推送提交。“在提示系统中隐藏信号使得任何其他隐私声明更难以令人信服，”Thereallo表示。《阿斯科技》写道，Anthropic没有立即回应他的评论请求。然而，《华盛顿邮报》的一位Anthropic发言人表示，中国实验室的蒸馏攻击对国家安全构成了严重威胁，并破坏了行业中的AI安全标准。英文、中文、日文、阿拉伯文和法文版本都是由AI自动生成的。因此，翻译可能仍然存在不准确之处，请始终将印尼语视为我们的主要语言。 （由DigitalSiber.id支持的系统）添加VOI为首选来源，通过Google关注VOI新闻更新。+