问HN:为什么我们让人工智能公司主导监管讨论?
我并不是指悲观主义的无谓争论。从流氓AI、悲观主义、AGI。我是指真正的监管:1)输入/输出代币的公平核算。管理公平使用计量的权重和衡量部门在哪里?如果我支付了一加仑汽油,那就是我所期望的。当我支付一美元的LLM计算时,它会不会在输入(或特别是输出)代币上做文章,从而贬低我的一美元?2)质量。当我请求更高努力的前沿模型时,然后我被降级到较低等级的模型或不同努力级别(而我可能甚至不知道我被降级了!),他们实际上是在向我销售我没有请求的服务。“但是服务条款”,很好,如果他们觉得降级风险如此之大,并且常常错误,那么他们应该折扣降级响应的成本。3)污染输出。LLM现在常常因为追踪和责任目的而污染输出,但有没有人来验证这些努力不会降低响应的质量?需要围绕公司污染其产品进行更多讨论,并让他们承担责任。我曾多次注意到单词被交换:有时“选择”这个词毫无意义,而之前并不会这样。我当时并没有在寻找它或挑剔。这真是显得太明显了。4)进一步说明第三点,响应本身是否会被种子化,以便能够识别出该响应的作者?有没有人问过自己是否可以像黄色打印机点那样对LLM响应进行去匿名化?5)配额。与第一和第二点相关,当我在一个计量服务中时,发生中途失败的请求或响应在中途截断,会发生什么?我为什么要为失败的响应付费?也许那没问题,但谁来验证他们不是大规模地这么做以省钱?我觉得每次我们真诚或“善意”地参与主要LLMaS(作为服务的LLM)双头垄断者的无意义监管时,我们都未能参与对我们正在支付的产品进行真实讨论的机会。我不明白为什么我们应该相信这些公司在IPO后会本善良地运营。一旦他们关闭所有竞争,确保只有OpenAI/Anthropic是你可以购买的LLM,动机在哪里?看看Uber/Lyft这些年来变成了什么。他们的服务大幅降级,同时增加了零碎成本。他们规避监管,然后要求世界屈服,并在能的地方制定符合其收入目标的法规(或威胁在不能的地方退出)。如果威胁真的像他们所说的那样严重,那么如果他们拒绝围绕基本服务交付的法规,我们如何能相信他们去“监管”那个威胁?
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡