导致2800万美元错误的教训,启发爱沙尼亚的AI“失误查找器”
爱沙尼亚的AI尴尬始于一个错误的短语。今年12月,爱沙尼亚议会Riigikogu通过了对国家赌博税法的修改,目的是降低远程赌博的税率。但该法律的措辞仅提到了“技能游戏”,并未提到机会游戏或远程赌博。爱沙尼亚的整个赌博行业的总值约为3亿欧元(3.43亿美元),其在线赌博市场是欧盟增长最快的市场之一。这个单一的失误导致在线赌场在整个一年内意外地被排除在税网外,使政府每年损失2400万欧元(2740万美元)赌博收入。这个错误是由一位赌博经营者的法律顾问发现的。但当前数字转型副秘书长卢卡斯·伊尔维斯为该立法提交了Claude和Gemini时,尴尬加剧了。伊尔维斯表示,这两个AI系统立即识别出不一致之处。几个小时内,伊尔维斯构建了一个原型工具——名为Apsakaleidja或“失误查找器”,该工具可以从Riigikogu网站中提取草案,并标出诸如引用错误、矛盾措辞、算术错误和不可能的日期等问题。它将问题分类为高、中、低风险——目前列出的112个法案中,有102个被评为高风险。在“失误查找器”上突出的一例表明草案文本中的措辞矛盾。伊尔维斯甚至在国家电视台上演示,令主持人感到惊讶。这一失误令人尴尬,但也在政府内部引发了一次觉醒。爱沙尼亚总理克里斯滕·米哈尔对《连线》表示:“这个情况表明,AI可以成为一个非常有用的助手。”她补充道,“而——以一种基于情感编码的平台的形式检查因事件而产生的草案立法——我们看到了赋能公民社会和个人公民的代理工具的一个例子。”因此,爱沙尼亚在政府中加大了对AI的使用。1月,米哈尔表示,国家可能会使用类似Apsakaleidja的工具来草拟立法,以主动识别和修复法律漏洞。她启动了Eesti.ai项目,旨在提升爱沙尼亚人对AI的使用技能,目标是在2035年前将该国的生产力翻倍。Eesti.ai倡议的顾问包括Bolt创始人马库斯·维利格和“失误查找器”的创造者伊尔维斯。然后,在4月,国家议会接收到了政府提交的法案,该法案赋予国家和地方政府使用数字解决方案(包括AI)来自动化行政流程的权利。该法案正在议会审议,讨论可能引入的改变,意图成为法律。在6月,米哈尔在Eesti.ai会议上表示,如果一切按计划进行,“爱沙尼亚将成为全球第一个为AI代理创建官方数字身份的国家。”米哈尔对《连线》表示:“这对公共部门来说是一个新的环境。它要求灵活性和适应技术变化的能力。”爱沙尼亚比许多国家更能适应这些变化:由于数字优先的国家,它在数字身份整合方面走在了前列,而99%的公共服务已经在线,米哈尔说。爱沙尼亚被视为如何管理现代数字国家的典范——正如《连线》十年前首次报道的那样。这为更便捷的AI采用奠定了基础。“这些投资现在允许我们更快更自信地进入AI时代,”他解释道。斯塔福德大学的技术伦理研究员凯瑟琳·弗利克表示,赌博税错误提出了一个更基本的问题:“为什么在立法草拟过程中不是由人类进行审查?”她说。“在某个时刻,得有人坐下来逐字逐句地阅读整个内容,理解其上下文和那些事情,以确保这是一个体面的法律。”正是这个最后的环节——“人类参与其中”,正在Riigikogu的代表中进行辩论。该法案是故意广泛起草的,Eesti.ai团队负责人基尔克·马尔解释说。爱沙尼亚当前的思路是,选择可以大致分为两类。“自然的分界线在于受规则约束的决策和自由裁量的决策,”她说。“法律根据可验证的事实决定结果——你符合标准,你就得到结果——这种情况下,自动化是合适的。”如果国家已经拥有所需的数据来确定某人是否符合某项福利的资格,马尔和伊尔维斯认为,这个人不一定要填写表格:他们可以简单地被告知他们符合资格。在爱沙尼亚,税务申报已经是预填的,未来可能会从公民检查和确认一份表格,转变为一个代理从头到尾准备和提交更复杂的申报,公民在必要时确认或介入。当事情变得更复杂时,“一个决定需要真正权衡竞争利益或判断一个人的具体情况时,仍然需要人类参与。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡