一个多月前，我在开罗的AI Everything MEA上参加了一个小组讨论，讨论AI中的信任、透明度和问责制，和两位投资者以及业内最锐利的科技记者之一一起。我是舞台上唯一的运营者，负责构建系统的人，而不是评估它们的投资机会和可行性。我想谈谈AI信任的内在表现。改变谈话的提问：主持人Mike Butcher问了一个我常常听到的问题：投资者在评估AI公司时应该关注什么？投资者小组的Yehia Houry（Flat6Labs）和Abdelrahman Hassan（Enza Capital）提供了关于治理框架和创始人可信度的深思熟虑的见解。然后轮到我了。我决定先讲一个关于短信费用及其对每月活跃用户（MAU）影响的故事。在我们这样的金融机构中，客户在中央银行设定的条件下，每月赚取利息。每月开始时，系统会借记短信通知费用，并为同一时期发布利息收入（如果满足条件）。这些都是系统生成的交易——客户没有做任何事情。他们没有打开应用程序。他们没有转账。他们没有购买。但如果你对“每月活跃用户”的定义是“至少有一笔交易的客户”，那么这些客户就会被视为活跃。以下是发生的事情。市场营销部门向董事会报告高MAU。产品部门查看同样的数据，看到参与度低——平均交易值被压低，因为真正活跃的客户与基本上不活跃的客户混在一起。财务部门看到的又是一幅完全不同的图景，因为他们在追踪产生收入的活动，而这两笔交易都没有产生收入。三个团队。同样的底层数据。三个不同的故事。不同的MAU定义（由Claude生成的图像）。对AI而言，这部分非常重要：如果你在这些数据上构建流失预测、信用评分或个性化，AI就会继承这种混乱。它将一个没有交易的客户视为每日交易。每个下游模型都在根据一个无人达成一致的定义做出决策。这不是模型问题。模型正按照你告诉它的方式运行。这是治理问题。从一个简单的问题开始：什么是“活跃”？当我讲这个故事时，我能感受到房间的变化。并不是因为它戏剧性，而是因为在场的每位创始人都经历过或正在经历这种情况。治理是如何融入我们的架构的：全链条的管理（由Claude生成的图像）。在Moniepoint，我们在尼日利亚和英国处理超过1000亿笔交易。我们的对账系统、分析平台、财务报告，所有这一切都依赖于数据的可信度。但是我们并不是从治理策略开始的。我们是从一个约束开始的。在尼日利亚，大多数银行没有能力处理我们处理的交易量的API（我知道这有点自夸，但这就是我们的现实）。所以银行对账单必须手动上传到我们的对账系统。立刻，这就产生了一个信任问题：如果上传对账单的同一个人也批准它，那么就没有验证。因此我们建立了一个制作者-审查者系统。上传者不能是审批者。这不是一个合规决定，而是一个操作必须。但它确立了一个原则，这个原则贯穿了我们后续建立的一切。结算报告将银行对交易的观点转换为一种与我们内部记录可比的形式，具有相同的可追溯性。当我们的系统自动对账一笔交易时，它不仅记录匹配，还记录哪个管道做出了决策，谁建立了该管道。如果数据工程师创建了标记逻辑，且该逻辑将交易分类为某种方式，您可以追溯到这一点。这个结果是因为这个管道，是由这个人使用这个逻辑构建的。Moniepoint的每一笔交易都有完整的管理链。从某人通过终端付款的瞬间开始，到结算，通过对账，再到我们的ERP，用于财务报告和分析。我把它看作是交易的生命。就像RioPY作品中的一个音符——从它被演奏的那一刻，到它解决的那一秒， 每一次震动都是有意的。去掉一个阶段，和声就会坍塌成噪音。我们不是因为监管者告诉我们这么做才建立了这个。我们之所以这样做，是因为尼日利亚的银行基础设施没有给我们选择。但现在世界在呼吁AI治理、可追溯性、问责制和人类监督，我们已经在路上。这不仅仅是因为我们有远见，而是因为这些约束促使我们建立了良好的架构。没有人谈论的SQL问题。