OECD AI Principles

制定历程：从专家小组到全球标准

OECD AI Principles的诞生始于2018年5月。当时，OECD数字政策委员会（DPC）成立了一个名为AIGO（AI Group of Experts）的非正式专家小组，由来自政府、产业界、公民社会、工会、技术社群和学术界的50多位多学科专家组成。他们在2018年9月至2019年2月期间举行了4次会议——分别在巴黎、波士顿（MIT）、迪拜等地——最终输出了一份关键文件，成为OECD制定建议书草案的基础。

2019年5月22-23日，OECD部长级理事会正式通过了该建议书。仅仅一个月后，2019年6月的大阪G20峰会上，各国领导人就基于OECD原则通过了G20 AI原则——这意味着OECD的AI伦理标准在短短一个月内就从一个政府间组织的标准升级为全球主要经济体的共同承诺。

从2016年OECD AI前瞻论坛，到2017年"AI：智能机器、智慧政策"会议，再到2018-2019年AIGO的四轮磋商，OECD经过了接近三年的酝酿才形成最终文本——这正是"证据驱动+多利益攸关方参与"的OECD传统。

2024年修订的背后推动力是生成式AI（尤其是ChatGPT的爆发）带来的全新挑战。修订后的原则新增了四大重点：（1）安全机制——当AI系统可能造成不应有损害时必须能够被覆盖、修复或安全退出；（2）信息完整性——在生成式AI背景下应对错误和虚假信息；（3）全生命周期负责任商业行为——包括与AI资源和知识供应商的合作义务；（4）明确透明度和负责任披露的具体信息要求。

AI系统定义与生命周期

AI系统（AI System） — 2024修订版定义：AI系统是一种基于机器的系统，针对显式或隐式目标，从接收到的输入中推断如何生成预测、内容、建议或决策等输出，这些输出可以影响物理或虚拟环境。不同的AI系统在部署后的自主性和适应性水平各不相同。

AI系统生命周期：规划与设计 → 数据收集与处理 → 模型构建/适配 → 测试、评估、验证 → 部署 → 运行与监控 → 退役/停用。这些阶段通常以迭代方式展开，并非严格线性。

Section 1 — 负责任管理可信AI的五项原则（完整原文）

五项原则互补，应整体考虑。

1.1 包容性增长、可持续发展与福祉

Inclusive growth, sustainable development and well-being

利益相关方应积极参与对可信AI的负责任管理，追求对人类和地球有益的结果——如增强人类能力和创造力，促进弱势群体的融入，减少经济、社会、性别和其他不平等，保护自然环境——从而推动包容性增长、福祉、可持续发展和环境可持续性。

这一定位将AI伦理从"防止伤害"的防御性框架提升到了"积极促进人类繁荣"的建设性高度。

1.2 尊重法治、人权与民主价值观（包括公平与隐私）

Respect for the rule of law, human rights and democratic values, including fairness and privacy

(a) AI参与方应在AI系统全生命周期中尊重法治、人权、民主和以人为中心的价值观。这些包括非歧视和平等、自由、尊严、个人自主权、隐私和数据保护、多样性、公平、社会正义以及国际公认的劳动权利。这还包括应对由AI放大传播的错误信息和虚假信息，同时尊重言论自由。

(b) AI参与方应实施机制和保障措施——如人类能动性和监督能力——以应对超出预期用途、故意误用或无意误用所产生的风险。

1.3 透明度与可解释性

Transparency and explainability

AI参与方应致力于AI系统的透明度和负责任的披露：促进对AI系统能力与局限性的普遍理解；使利益相关方意识到他们正在与AI系统交互（包括在工作场所）；提供关于数据来源、因素、过程及导致预测/内容/建议/决策的逻辑的通俗易懂的信息；提供使受AI系统不利影响的人能够挑战其输出的信息。

1.4 稳健性、安全与保障

Robustness, security and safety

(a) AI系统在其整个生命周期中应保持稳健、安全和有保障，在正常使用、可预见使用或误用及其他不利条件下仍能适当运行，不构成不合理的安全风险。

(b) 应有机制确保：当AI系统有可能造成不应有伤害或表现出不良行为时，可以根据需要予以覆盖、修复和/或安全停用。

(c) 在技术可行的情况下，机制还应增强信息完整性，同时确保尊重言论自由。

1.5 问责制

Accountability

(a) AI参与方应基于其角色、所处情境和最新技术水平，对AI系统的正常运行和对上述原则的遵守负责。

(b) AI参与方应确保可追溯性——包括对数据集、过程和AI系统生命周期中作出的决策的可追溯性。

(c) AI参与方应持续对AI系统生命周期的每个阶段应用系统性风险管理方法，并采取负责任的商业行为。

Section 2 — 可信AI的五项国家政策建议

2.1 投资AI研发

政府应长期公共投资并鼓励私人投资可信AI研发和开放科学，包括跨学科合作；投资于具有代表性、尊重隐私的开源工具和开放数据集。

2.2 培育包容的AI赋能生态系统

促进包容、动态、可持续、可互操作的数字生态系统发展，包括数据、AI技术、计算和连接基础设施，以及AI知识共享机制（如数据信托）。

2.3 塑造有利的、可互操作的AI治理环境

推行敏捷政策环境，采用监管沙盒等实验性方法为AI提供受控测试空间；采用基于结果而非基于方法的监管思路；促进跨辖区治理互操作性。

2.4 建设人力能力并准备劳动力转型

通过技能培训、社会保护等措施确保AI部署中的公平转型；促进AI在工作场所的负责任使用——关注劳动者权益保护和终身学习。

2.5 可信AI国际合作

积极合作推进这些原则；推动多方利益相关者驱动的全球技术标准；鼓励制定国际可比指标来衡量AI研发和部署进展。2024年7月，OECD与GPAI正式合并，形成了覆盖六大洲44个司法管辖区的统一AI治理平台。

对金融行业的映射