UNESCO《人工智能伦理问题建议书》
Recommendation on the Ethics of AI · 2021年11月23日 · 193个成员国全票通过 · 覆盖194个国家和地区
制定历程：三年打磨，百小时谈判
2018年春，UNESCO总干事奥德蕾·阿祖莱发起了一项雄心勃勃的项目——"为世界打造一个运用人工智能的伦理框架"。2019年11月第40届UNESCO大会作出正式决定后，为期两年的起草工作正式启动。
起草过程分为几个关键阶段：2020年，由24名来自世界各国的专家组成的特设专家组（AHEG）在广泛征求多利益攸关方意见的基础上编写建议书草案初稿。这一阶段包括包容性和多学科的全球磋商——地区性专家咨询会、政府间专家磋商、各成员国意见征集。2020年9月至12月间，总干事收到各会员国和观察员的大量评论和修改意见。
2021年4月和6月分两阶段召开了技术和法律专家特别委员会会议，进行了超过100小时的多边谈判和反复修订。最终在2021年11月23日UNESCO第41届大会上，193个成员国全票通过了这份历史性文件。
关键争议焦点：禁止社会评分和大规模监控是谈判中最具争议的议题。一些国家主张更强硬的禁令，另一些则担忧禁令过于宽泛影响合法执法。最终文本在"明确禁止"和"允许特定例外"之间找到了平衡——没有一味迎合西方技术先发国家的既有标准，而是通过平等而广泛的公共讨论推动形成了多边共识。
⚠️ UNESCO建议书的两项关键共识：首先，将"可持续发展"确定为全球AI发展的总体愿景——主张AI技术应以有利于实现SDGs为优先导向。其次，倡导"协同共治"的治理范式——不囿于"发展先行"还是"治理先行"的争论，强调将伦理标准贯穿AI全生命周期，依赖政府、企业、研发、用户、学术界、媒体的多方深度协同。
四大核心价值观（完整原文）
1. 人权和人类尊严
Respect, protection and promotion of human rights, fundamental freedoms and human dignity
AI系统在整个生命周期中必须确保不侵犯国际公认的人权。生命、自由和安全的权利与人的尊严密不可分，尊重人的尊严要求在AI时代仍然以人为本——人类不仅是数据主体，更是具有能动性和自决权的主体。
2. 生活在和平、公正与互联的社会中
Fostering just, peaceful, and interconnected societies
确保AI的发展和应用促进社会和平、公正和互联。人类相互依存构成了核心价值基础——AI不应破坏社会凝聚力，而应强化人与人之间、国与国之间的联系纽带。
3. 确保多样性和包容性
Ensuring diversity and inclusiveness
AI系统应尊重文化、社会和生物多样性，推动包容性发展。多样性不应被视为AI发展的障碍，而应被视为创新的源泉。消除数字鸿沟是实现包容性的前提。
4. 环境和生态系统蓬勃发展
Supporting flourishing of environment and ecosystems
AI技术应对环境与生态系统的可持续性负责。AI模型训练的巨大能耗（尤其是大语言模型）需要纳入伦理考量，环境影响应在整个AI生命周期中予以评估。
十大核心原则（完整原文）
1. 相称性和不损害 Proportionality and Do No Harm
AI系统的使用不得超出实现合法目标所必需的范围。应运用风险评估来防止此类用途可能造成的危害。这意味着在部署AI之前必须追问：是否有更少侵入性的替代方案？该AI应用带来的收益是否显著超过其风险？
2. 安全和安保 Safety and Security
AI参与者应在整个AI生命周期中避免和应对可能的伤害（安全风险）以及潜在的攻击漏洞（安保风险）。这包括对数据投毒、对抗性攻击、模型反转等安全威胁的持续防范。
3. 隐私权和数据保护 Right to Privacy and Data Protection
隐私必须在AI的整个生命周期中得到保护和促进。应建立适当的数据保护框架和治理机制。特别强调个人有权访问甚至删除其个人数据记录。
4. 多利益攸关方与适应性治理和协作
使用数据时必须尊重国际法和国家主权。包容性的AI治理方法需要多元利益攸关方的参与——政府不能单独完成，企业不能自我监管，需要全社会的协同治理。
5. 责任和问责 Responsibility and Accountability
AI系统应该是可审计和可追溯的。应建立监督、影响评估、审计和尽职调查机制。AI参与者应在特定司法管辖区的法律和监管框架内承担与其角色相适应的责任。
6. 透明度和可解释性 Transparency and Explainability
AI系统的伦理部署取决于其透明度和可解释性。透明度水平应适合具体情境——医疗AI的透明度要求与娱乐AI不同。需平衡透明度与隐私、安全等其他原则。
7. 人类的监督和决定 Human Oversight and Determination
这是建议书中最具标志性的原则之一：成员国应确保AI系统不会取代人类的最终责任和问责。生死攸关的决定不应完全委托给AI系统——人类始终应当保留"最终决定权按钮"。
8. 可持续性 Sustainability
应根据AI对联合国17项可持续发展目标（SDGs）的影响进行评估。AI的可持续发展不仅指环境维度，还包括社会和经济维度的可持续性。
9. 认知和素养 Awareness and Literacy
应通过开放和无障碍的教育、公民参与、数字技能、AI伦理培训和媒体信息素养，促进公众对AI和数据的理解。这强调AI素养不仅仅是技术教育——更是公民权利教育。
10. 公平和非歧视 Fairness and Non-discrimination
AI参与者应促进社会正义、公平和非歧视，采取包容性方法确保所有人都能享受AI的惠益。特别关注AI系统可能加深或固化历史性不平等和结构性歧视的风险。
十一大政策行动领域
UNESCO建议书的独特之处在于它不仅仅是原则声明，还为每个政策领域提供了具体的、可操作的政策指导。
| # | 政策领域 | 核心行动要点 |
|---|---|---|
| 1 | 伦理影响评估（EIA） | 在AI系统部署前强制进行伦理影响评估，覆盖人权、隐私、公平、环境等维度 |
| 2 | 伦理治理与监管 | 鼓励成员国增设独立的AI伦理官员或监督机制，确保持续审计和监测 |
| 3 | 数据政策 | 建立数据治理框架，确保数据质量、代表性和合法采集；推动数据共享与隐私保护平衡 |
| 4 | 发展与国际合作 | 缩小AI发展的南北差距，推动技术转移和能力建设，防止AI殖民主义 |
| 5 | 环境与生态系统 | 评估AI全生命周期的碳足迹；鼓励绿色AI研发 |
| 6 | 性别 | 消除AI系统中的性别偏见；确保AI开发团队和决策层的性别多样性 |
| 7 | 文化 | 尊重文化多样性，保护非物质文化遗产在AI时代不受侵蚀 |
| 8 | 教育与研究 | 将AI伦理纳入各阶段教育课程；培养批判性思维以理解AI对社会的影响 |
| 9 | 传播与信息 | 打击AI驱动的虚假信息；确保信息的多元化和媒体自由 |
| 10 | 经济与劳动 | 推动AI对就业影响的公平分配；建立社会保护机制以应对结构性失业风险 |
| 11 | 健康与社会福祉 | 确保AI在医疗领域的公平可及；防止AI加剧医疗资源不平等 |
对金融行业的映射
UNESCO建议书的覆盖广度使其在金融领域具有特殊指导意义。原则7"人类的监督和决定"直接对应银行信贷审批的"人机协同"要求——在自动化审批系统中保留信贷官的人工否决权。原则10"公平和非歧视"要求在金融AI模型中嵌入公平性审计（Fairness Audit），检测模型对不同人口群体的差异化影响。原则8"可持续性"则与ESG投资、绿色金融等金融行业热门趋势形成呼应。