IT领导者需要扩展的AI架构基础要素
赞助内容 发现四个AI架构的基础要素,随着模型的不断进步而持久:数据质量、上下文工程、治理和人类专业知识。 2026年7月7日 随着AI能力的迅速发展和向代理系统的转变,组织正在扩大它们的用例,因为该技术持续增长。这种不断的演变也带来了风险,让IT领导者思考哪些投资即使在六个月后也能证明其价值。回归AI架构的基础要素——部署和管理可靠的、集成的AI系统在规模上所需的结构框架——使技术领导者今天能够做出明智的决策,同时支持能够检索信息、做出决策并在系统中执行复杂工作流程的AI代理的未来。 你可以信赖的四个AI架构要素 以下能力在准备生产就绪的部署时提供了一个稳定的指南,无论基础技术如何演变。 1. 为大规模AI准备数据 模型的可靠性依赖于其能够访问的数据,数据质量差会导致AI的幻觉、偏见和不可靠的输出。大多数企业依赖于遗留系统、不一致的数据结构、分散的所有权和不完整的数据集,这使得有效地扩展AI变得困难。尽管AI功能强大,但它本身无法解决这些基础的数据问题。Elastic的CIO Adnan Adil解释道:“数据是AI架构的一个持久部分,因为没有它,这些模型就无法运行,无法提供正确的上下文,或无法提供我们希望实施的服务水平。”行业调查一致指出,数据质量是AI成功的最大障碍之一。“数据质量必须良好;否则,用户会失去对系统的信心,”Adil说道。一项有效的AI战略始于连接组织内的数据,确保这些数据是有组织、准确、受管控并实时可访问的。这些考虑在从一开始就内置于模型和架构中时最为有效。可扩展的数据架构使AI系统能够与业务共同发展,并可靠地连接到提供有意义价值所需的内部信息。Gartner预测,如果没有支持AI准备好的数据,企业将于2026年前放弃60%的AI项目。避免这一结果包括明确的数据标准和所有权、干净且标记的数据以及支持实时检索的数据管道。 2. 使用上下文工程为每个AI查询提供正确的数据 上下文工程确保模型针对每个查询提取最相关的信息,选择并组织所需数据以高效地产生准确答案。有效的上下文工程塑造指导AI推理和行动的输入。同时,提示工程侧重于请求的措辞,而上下文工程则设计围绕模型的整个信息环境:检索正确的数据并以结构化的机器可读方式呈现。许多组织发现,可靠的AI在很大程度上依赖于上下文质量,而不仅仅是模型的强度。上下文工程依赖于现代化的、统一的数据基础以及检索和记忆系统,如检索增强生成(RAG)和向量数据库。它还需要仔细优先考虑,以确定哪些信息最重要,哪些应该被排除,以及何时使用不同类型的信息。为模型提供过多的上下文可能会稀释相关细节、增加成本并减慢响应时间。“最小上下文、正确且最新的数据、机器可读的信息对于有效的上下文工程至关重要,”Adil说道。 3. 从一开始就构建AI治理和LLM可观测性 强有力的治理和LLM可观测性帮助组织控制AI系统如何使用数据,监控系统性能,并在问题影响运营之前识别问题。在缺乏关于检索、工作流程和模型使用的明确控制的情况下,AI系统往往处理比必要更多的信息。这种低效还会通过需要额外的计算资源而增加运营成本,通常反映在更高的令牌消耗和API费用中。治理与强大的安全性同样重要。AI扩大了攻击面,引入了诸如基于提示的数据泄露、模型漏洞和对抗性输入等风险。保护敏感信息需要强有力的访问控制、监控和监督。Adil指出,基本控制——包括与安全、细粒度成本管理、项目控制、数据安全和架构相关的控制——往往是不足够的。为了使治理系统支持透明、合规、可信和成本有效的AI,组织不能将其作为事后添加的一层。治理结构必须在项目的早期阶段就得到充分设计和实施。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡