由劳埃德·李撰写 你正在关注该作者！想要取消关注？可通过电子邮件中的链接取消订阅。苹果在最近的申请中提出担忧，称输入到人工智能代理或模型中的商业秘密可能导致对该信息的“不可逆转”使用。Abdul Saboor/路透社 在人工智能时代，公司可能面临一个新问题。一个不法的科技大公司的员工带着商业秘密离职去竞争对手那里，在为竞争对手工作期间把这些秘密输入到一个人工智能代理或模型中，并使用这些秘密进行一些测试。也许这个坏苹果员工然后利用这些机密知识创造一个新的解决方案，从中使竞争对手获利。或者，这些秘密可能被存储在某个知识库中，人工智能可以在不法员工的同事有相关问题时进行检索。苹果在周一提交的一份补充文件中提出了这一可能性，支持其在对OpenAI的商业秘密诉讼中请求加快取证的请求。在申请中，苹果的律师表示，前员工在OpenAI工作期间使用公司机密和利用人工智能代理进行模拟学习的行为引发了超出普通文件盗窃的担忧。“当商业秘密信息输入到一个‘学习’的人工智能代理或模型中时，这种‘学习’可能会导致商业秘密的不可逆转和持续扩展的使用——这种损害至少在恢复上面临独特挑战，需要及时调查，”苹果的律师写道。竞争对手公司持续使用机密信息并不是一个新问题。然而，人工智能为这一问题引入了新的复杂性：公司在商业秘密进入竞争对手的人工智能系统后，应该如何重新控制这些秘密？ 新风险，相同的补救措施 “员工已经是活生生的定时炸弹，脑中充满知识，”罗格斯大学的法律教授Camilla Hrdy告诉Business Insider，她的工作审视商业秘密法和生成性人工智能。“现在他们正在将这些知识输入到人工智能中，这可能会导致真正的控制丧失。这是新的。” 埃隆·马斯克的xAI在起诉OpenAI时提出了相关但不同的人工智能关联问题，指控萨姆·奥特曼的公司挖角员工以盗取Grok的基础技术。该诉讼指出，虽然前xAI工程师李学辰“将xAI完整的代码库存储在他的个人云存储帐户中，李的个人ChatGPT帐户也直接连接到他的个人云存储帐户，设置为OpenAI的ChatGPT中的一个连接‘来源’。”它补充道：“OpenAI可以通过其ChatGPT服务访问李的文件，其中包括盗取的xAI全部源代码的副本。” 一名法官在六月份驳回了该诉讼。Hrdy表示，这些案例并不立即要求新的法律解决方案。潜在的补救措施通常包括命令公司停止使用商业秘密、不透露任何秘密，并采取措施保护这些秘密。Hrdy还表示，必须评估损害：因丧失这些秘密而造成的实际损失，或者在某些情况下，需向受影响公司支付的特许权使用费。 人工智能能否忘记秘密？ 停止竞争对手公司使用商业秘密可能会面临技术挑战，具体取决于员工如何将机密信息应用于人工智能系统。密歇根州立大学的计算机科学教授刘思佳共同撰写了一篇关于“机器遗忘”的论文——去除某些数据或能力对人工智能模型影响的过程。他告诉Business Insider，如果包含敏感信息的文档存储在人工智能系统提取的库中，补救措施可能相对简单，例如删除该文件。另一方面，如果敏感信息用于训练或微调模型，这将需要完全不同的、可能资源密集的过程。“第二种情况可能更困难，因为评估某种影响真的很困难，”刘表示，并补充说，“你必须精确定义不想要的能力的边界。” 更直接的控制秘密的方法可能是建立一个“检测系统”，标记敏感用户请求或在代理之间传递的敏感信息，刘说。然后，检测器可以对此请求触发强制停止。刘表示，这不是“真正的遗忘”，但更加实用。需要明确的是，苹果并没有说明这名前员工可能如何在人工智能中使用商业秘密，无论是一次性与人工智能辅助的模拟，还是会影响更大模型的训练。苹果发言人未能对此事做出回应。无论如何，人工智能可能引发公司失去控制自己秘密的新方式。 阅读下一篇 劳埃德·李 你正在关注该作者！想要取消关注？可通过电子邮件中的链接取消订阅。苹果