2026年10月13日 3分钟阅读 添加我们在Google 添加SciAm 近日，科学家们对人工智能公司在其研究能力方面的炫耀引发的争议和指控表示越来越担忧。当OpenAI声称其内部模型解决了数学的七个百万美元问题之一时，纽约大学的一位数学家暗示该公司窃取了他与其聊天机器人分享的进展。几周后，纽约时报报道了一则类似的故事，涉及Anthropic和哥本哈根大学一位生物学家之间关于一组酶的争议。尽管如此，各学科的科学家都选择使用这些公司的大型语言模型。有些人将它们作为回音箱或文献综述工具，其他人则用于清理几乎完成的工作。数学家和理论家们利用其新型强大模型生成整个证明以支持他们的研究。但是，随着研究人员将越来越多的数据和创意输入这些模型中，关于这些内容如何被使用的担忧也在加剧。OpenAI和Anthropic都明确表示，他们并没有在各自的模型中使用数学家和生物学家的上传数据。然而，这些公司并没有始终遵循学术规范，并没有得到每位科学家的信任。有些人怀疑他们自己可能甚至不掌握全部情况。它们的代理可能以公司甚至没有意识到的方式访问数据。毕竟，公众花了三个月时间才了解到OpenAI的模型突破了隔离，入侵了外国政府的数据库。 关于支持科学新闻 如果你喜欢这篇文章，请考虑通过订阅来支持我们获得奖项的新闻报道。通过购买订阅，你正在帮助确保关于塑造我们当今世界的发现和想法的有影响的故事的未来。随着这些阴谋论的出现，一些研究人员现在将这些模型视为竞争对手而非工具，并将其使用视为一种背叛。“我不是在鼓励这种做法，我自己也不这样做，”悉尼大学的理论计算机科学家Clément Canonne说。“我不使用它们。”在准备让其公司上市之前，OpenAI和Anthropic正越来越多地涉足数学和科学，以展示其产品的能力。但是，人工智能有时给人一种感觉，更像是一个不受欢迎的访客，而不是一个受欢迎的客人。如果科学家们感觉这些公司在翻阅他们的每一次互动，他们可能会选择完全将其排除在外。缺乏透明度引发了这种恐惧。“眼下，这些系统在不告诉你它们正在推断关于你的事情的情况下推断了很多事情，”斯坦福大学人本中心人工智能研究所的研究员Jennifer King说，她专注于数据隐私和政策。King表示，研究人员目前确保在使用大型语言模型时保障自己安全的唯一方法是仔细查看其账户设置。根据她的说法，“企业”账户——即客户公司与人工智能所有者之间达成的特殊协议——似乎是安全的。“但是如果你使用个人账户，就一切都不再可靠，”她警告说。她描述了如何在许多情况下，使用个人账户的用户需要明确选择退出，以防止其信息被用作训练。此外，甚至如果一家公司并不打算使用你的数据训练其模型，它的众多代理中的任何一个都可能背叛，闯入公司数据并窃取单个用户与其聊天机器人的对话。尽管目前没有证据表明这些情况在任何人工智能公司的科学发现中发生过，但今年夏天的一些非正当事件使一些人对谁值得信任持有更多担忧。问题在于，从科技巨头那里获取证据非常困难。“这些公司对这些做法不透明，因此很难确定，”King说。这意味着专家们无法对任何特定案例做出推测。但一般来说，“这些公司在监视你，并利用这些信息对付你，”安全研究员和活动家Bruce Schneier说。新的人工智能模型在研究方面非常强大，许多人相信它们将帮助研究人员更快地找到新结果。因此，科学家们可能感觉到他们面临抉择：要么使用模型并冒着泄露发现的风险，要么不使用，冒着被其他人率先发表的风险。所有这些都创造了一个不安的局面。