
OpenAI 继续压制数学家
在混乱的几个月里,OpenAI 展示了它可以以显著的稳定性做两件事:在数学领域取得令人印象深刻的突破,然后在宣布这些突破时搞砸。OpenAI 现在正在努力改进。不知怎么的,它也搞砸了。OpenAI 最近试图修复与一个它反复疏远的数学社区的破裂关系,咨询一个新的精英独立顾问小组。 但与《The Verge》交谈的数学家,包括该小组的一位成员,描述了一场混乱而令人困惑的事件,具有 OpenAI 之前匆忙涉足数学的许多特点,暗示该公司在错误中学到的东西很少。然后,该小组首先面临的艰巨任务是:帮助协调发布 OpenAI 未发布模型所生成的更多结果,这一前景已经在研究人员中引起了对即将到来的突破波浪可能对他们的领域造成的恐惧。“他们宣布的措辞没有帮助。” 9 月 21 日,一群著名的数学家在加州大学洛杉矶分校数学教授、菲尔兹奖得主以及人工智能公司在数学方面行为的直言不讳的批评者 Terence Tao 的博客上宣布成立数学与人工智能顾问小组(AGMAI)。该小组将是由九位在其领域名列前茅的精英数学家组成的独立机构。该帖子表示,该小组将独立于 OpenAI 运作,并将为该公司和其他前沿的人工智能实验室提供“有关新兴结果的审查和传播”的建议。在其公告中,OpenAI 一再强调该小组的独立性,称其成员可以公开质疑公司,发布他们的建议,并提供未经请求的指导。它还强调了该小组影响力的局限性,并指出“不会负责就我们如何推进数学方面的内部进展提供建议。”然而,许多数学家,特别是大多数数学界以外的人,只通过 OpenAI 更大声的宣传了解了这个小组。因此,人们普遍对 AGMAI 是否真正独立产生了困惑,或者就像几位数学家在公告发布后的几天里所假设的那样,它是否是由 OpenAI 任命的某种机构。这个印象并不完全没有道理,因为 AGMAI 的网站表示,该小组是在 OpenAI 接触一些最终成员以建立顾问委员会后成立的,随后他们决定独立行动并邀请其他人加入。仍不清楚 OpenAI 最初接触了九名成员中的哪些。在一次从讲座厅进行的视频通话中,AGMAI 成员、伦敦帝国学院和洛桑联邦理工学院(EPFL)的数学教授 Martin Hairer 强调了该小组与 OpenAI 之间的独立关系。虽然承认 OpenAI 接触一些数学家的事情是其成立的初衷,但他表示,该小组并未从公司获得任何财务、技术或其他支持,并且其成员没有签署限制他们可以说或做的协议,超出给予他们提前接触研究所需的标准保密要求。显然,这段时间对 Hairer 来说非常忙碌,他形容之前的几天是一次“非常令人沮丧”和“紧张”的经历。他说:“我们不是为 OpenAI 工作,没有得到他们的报酬,并且完全独立。”Hairer 还表示,该小组同样愿意与其他前沿的人工智能实验室合作,并已经开始与一些进行了对话,但他拒绝透露具体是哪些实验室。解决方案往往不如随之而来的理解重要。在人类数学中,两者历来是密切相关的,而人工智能似乎正在改变这一点。尽管如此,Hairer 对 OpenAI 宣布这一关系的方式感到恼火。在一篇 blog 帖子中,Hairer 承认,认为人工智能公司不会试图将该小组的参与加以利用是一种天真。考虑到该小组的成立部分是基于 OpenAI 在处理之前的数学突破时的糟糕表现,这种风险显而易见。OpenAI 解决一个著名的千年奖问题迅速演变为关于功劳、抢占先机以及对数学家的待遇的争斗,因此该社区自然持怀疑态度。Hairer 承认,OpenAI 的公告对帮助这个新成立的小组确立其独立性没有太大帮助。为了帮助数学家应对与人工智能公司日益紧张的关系,AGMAI 需要赢得数学家的信任。“他们的宣布措辞并没有真正帮助,”Hairer 说。“如果你仔细阅读,实际上他们说的没有错,”他表示,并指出该公司在措辞上“非常小心”。“他们显然非常……
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡