互联网存在人为疏漏问题,而人工智能正在揭露它
Vercel的汤姆·奥基诺(Tom Occhino,左)与人道工具公司的提亚戈·萨达(Tiago Sada)在四月份旧金山的一次活动中合影。金伯利·怀特/人道工具公司提供的Getty Images 互联网存在一个疏漏问题。而且这一次,我们不能把责任归咎于人工智能。我们中的大多数人每天在线花费几个小时,却并未多加考虑支撑这一切的软件。我们假设某个地方有人确保一切正常工作。因此,这周发现某些软件是多么脆弱,可能让人感到震惊。这场被称为“黑色十月”的网络安全危机引发了关于人工智能黑客、数字灾难的警告,甚至还有建议储备现金和罐头食品。乍一看,人工智能似乎是罪魁祸首。但这很大程度上是一个人为造成的混乱。问题在于,互联网运行在几十年的软件基础之上,其中一些软件含有被忽视、容忍或干脆未修复的安全漏洞。这些年来,这是一场可以管理的赌博。修复软件需要时间和金钱。利用晦涩的弱点往往需要相当的专业知识。公司们可能会说服自己,风险并不值得担忧。人工智能正在改变这一计算。曾经需要数年培训才能寻找弱点的人,现在可以得到人工智能模型的帮助。这些工具也可以以人类无法比拟的速度检查软件。突然间,我们一直忽视的所有问题变得更为紧迫。“在过去的10年里,风险接受过程从一种接受风险以促进业务的方式,转变为一种为不修复安全问题辩护的方式,”a16z的合伙人乔尔·德拉·加尔萨(Joel de la Garza)和赞恩·拉基(Zane Lackey)在周五写道。这简直是一项控诉。结果是最近公布的漏洞激增。这看起来像是人工智能创造了新的安全问题。实际上,正是人工智能揭露了人类留下的弱点。疏漏的讽刺 这个讽刺真是美味。我们花了过去几年的时间抱怨“人工智能的疏漏”。事实证明,人为的疏漏也可能相当重要。软件工程师本·考夫曼(Ben Kaufman)周四在X上写道:“有趣的是,每个人都说人工智能的疏漏代码会导致网络危机,但实际上,造成这一危机的却是所有旧有人为的疏漏,而人工智能只是在清理它。”技术创始人阿南特·贾因(Anant Jain)在X上写道:“人类一直是彼此编写和审查代码的人。如果我们在知识上诚实,并将自己与我们对人工智能所要求的标准相提并论,我们就不得不承认我们也没有那么出色。” 人类是马虎的 任何与其他人合作了十年或二十年的人都确切知道这一点是如何发生的。星期五的下午,你几乎完成了一个项目。你可以再花几个小时让它完美,或者宣布它完成90%并前往那个晚宴派对。我们大家都经历过这些。人工智能代理没有晚宴派对。他们在星期五的下午不会感到疲倦。他们可以继续搜索、测试并再次尝试。这种坚持现在与一个由忙碌、不完美的人类构建的互联网发生了碰撞,他们往往满足于“目前足够好”。 公共悲剧 这里还有另一个复杂因素,而且是一个重要的因素。支撑互联网的大部分软件都是免费提供的,任何人都可以使用。其中一些由志愿者或小型专家组维护,同时巨大的科技公司却依赖这些软件。在2020年,漫画家兰德尔·门罗(Randall Munroe)在xkcd漫画中捕捉到了这种荒谬。现代数字基础设施仍然将摇摇欲坠地建立在微小的基础之上。这很搞笑,因为它与现实的距离令人不安。以本周具体的PHP问题为例。这些缺陷已经存在多年,PHP基金会承认,有限的资源和对修复的分歧导致了修复工作的延误。Vercel的首席产品官汤姆·奥基诺在我与他的最近采访中提到了门罗的漫画。他解释说,人工智能正在发现即使是行业多年视为可靠的软件中的弱点。这在一定程度上是公共悲剧的一个版本:每个人都受益于共享资源,但没有人有足够的动力来承担维护的责任。让我们明确一点:让重要软件运行的志愿者不是这里的恶棍。受益于他们工作的公司有更大的责任。奥基诺认为,人工智能可以帮助解决它所揭示的问题。他描述了在Vercel讨论的一个想法:创建一个基金会或联盟,资助识别脆弱软件并将其替换为更安全替代品的努力。“我们需要一个联盟。我们需要一个联合体,”他告诉我。他建议公司可以为这一努力贡献计算资源和人工智能工具。虽然没有正式的公告,但是这个想法非常吸引人。实际上,OpenAI的“修复地球”(Patch the Planet)努力正是可能性的一个例子。与其仅仅使用人工智能来创建更多软件,行业可以利用它来修复现有的软件。
阅读全文 →本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡