目录 一句话总结 介绍 什么是人工智能治理？人工智能治理的原则是什么？如何将人工智能治理落地实施？有效的人工智能治理是什么？强有力的人工智能治理有什么影响？ 主要内容 一句话总结 人工智能治理是一套流程、标准和护栏 — 以透明性、问责制、公平性、隐私和安全为基础 — 确保人工智能和能动系统的安全、伦理和与人类定义的目标保持一致。实施人工智能治理不是一项政策练习；它需要真实的组织结构（赞助人 → 指导委员会 → 顾问团队 → 项目管理 → 实施），明确的风险承受能力，以及基于已认可的框架，如欧盟人工智能法、ISO 42001和NIST。如果做得好，它将人工智能风险管理转变为战略和竞争优势，而不是合规的事后思考。 介绍 在能动人工智能的世界中，交付速度往往掩盖了工作完成的方式。实际上，性能和效率问题更像是概率问题，而不是企业问题。在这种情况下，将治理和管理纳入企业的能动世界是寻找适当政策和做法以作为护栏的过程。为人工智能代理的高效和安全执行设置护栏的过程称为人工智能治理。 什么是人工智能治理？ 要理解人工智能治理，我们需要为人工智能及其在组织中的使用勾勒一个广泛的定义。ISO/IEC 22989将人工智能定义为：一种工程系统，根据一组人类定义的目标生成内容、预测、建议或决策等输出。 这个定义范围广泛，尝试覆盖任何可能用于实现人类定义目标的自动化系统。因此，人工智能可以进一步分类为： 通用人工智能 窄义人工智能 能动人工智能 反射代理 基于模型的代理 基于目标/效用的代理 学习代理 从更广泛的人工智能定义及其使用来看，人工智能治理可以定义为：人工智能治理是指确保人工智能系统安全和伦理的流程、标准和护栏。人工智能治理框架引导人工智能研究、开发和应用，以帮助确保安全、公平和对人权的尊重。它提供了一种结构化的方法来减轻与人工智能系统相关的潜在风险。 人工智能治理的原则是什么？ 企业治理与组织的战略对齐，并提供最佳实践框架，以促进决策并为战略的落地实施提供一致的结构。它以人为中心，提供了一条可预测和可审计的决策路径。在一个主要以能动工作流运行其流程的组织中，治理的理念围绕管理使用人工智能系统所带来的意外结果风险。为了确保这一点，人工智能治理建立在以下原则之上： 透明性 问责制 公平性 隐私 安全性 建立这些原则作为有效人工智能治理的支点，其目的是： 最小化与人工智能系统相关的监管风险 最大化对人工智能系统结果的信任 更好地理解和监控系统及其工作流程，以与战略目标对齐 如何将人工智能治理落地实施？ 组织需要一个强有力的基础人工智能战略和政策，以实施有效的人工智能治理实践。人工智能战略必须与整体战略和商业目标对齐，以应对不断变化的人工智能环境。组织需要能够建立实施人工智能治理所需的基础要素——能力去： 建立人工智能治理卓越中心 建立人工智能风险承受能力和框架 启用人工智能治理平台 该结构通常应为： 自高层赞助人到实施团队的典型人工智能治理操作结构。委员会必须基于欧盟人工智能法、ISO 42001或类似咨询机构定义的法规，并涵盖如NIST或类似的风险框架。这确保了潜在的实施是有效的、合规的，并在良好定义的程序和控制下进行监控。 有效的人工智能治理是什么？ 当人工智能治理建立在原则之上时，它是高度有效的。适用于任何人工智能治理框架的原则由领导层在其目标和战略中定义。领导层的角色至关重要，以提供明确方向，指向组织的风险承受能力、资源和结构。这有助于定义治理问责制、管理责任和影响决策的监控指标。这些都是作为人工智能治理推动者的重要因素。负责制定政策和流程的人工智能治理团队确保人工智能政策与组织的治理政策在有形和可测量的层面上保持一致。