第 4 章全球AI伦理框架手册

IEEE Ethically Aligned Design(伦理对齐设计)

IEEE EAD v2 · 全球最具工程实践导向的AI伦理框架 · 第一版2019年 · P7000系列可认证标准

框架定位:工程师的伦理指南

IEEE EAD由IEEE自主与智能系统伦理全球倡议项目编制,经过三年全球开放咨询、数百名多学科专家参与。EAD的独特之处在于它将抽象伦理原则转化为可测量、可认证的工程标准(P7000系列),是目前全球唯一将"什么是好的AI"和"如何构建好的AI"无缝衔接的框架。

三层AI治理的独特分工:
- OECD = "什么是好的AI"(What good looks like)→ 高层次,面向政府
- NIST / ISO = "如何管理和治理AI"(How to manage and govern it)→ 管理层
- IEEE 7000系列 = "如何构建和测试AI"(How to build and test it)→ 工程层

>

三者互补叠加,而非互相替代。

使命陈述

通过教育、培训和授权,确保从事自主与智能系统设计开发的利益相关方优先考虑伦理问题,只有这样,技术进步才能增进人类的福祉。

八大通用原则(完整原文)

1. 人权 Human Rights

A/IS的创建和运行应尊重、促进和保护国际公认的人权。A/IS不应被授予与人类权利等同的权利和特权,应始终服从于人类的判断和控制。这意味着工程师在设计系统时必须内嵌"人类始终在上"的控制架构。

2. 福祉 Well-being

创建者应将增进人类福祉作为首要成功标准。这不是"不造成伤害"的防御性底线——而是追求积极的人类繁荣。需要可量化的福祉指标(如IEEE 7010标准定义的心理指标),包含代际影响的考量。

3. 数据主体能动性 Data Agency

赋予个人访问和安全管理其数据的能力,保持人们对其身份的控制权。核心要求:知情同意 + 个人数据控制权 + 关于数据实践的清晰沟通。关键在于"能动性"(agency)而非被动的"保护"——数据主体不应只是被保护的对象,而应是掌控者。

4. 有效性 Effectiveness

创建者应提供系统按预期运行并满足其目的的证据。系统应有清晰、可测量、可测试和有效的目的。这与欧盟AI Act的"符合预期用途(intended purpose)"概念高度呼应,但IEEE更进一步——要求可验证的证据。

5. 透明度 Transparency

决策的基础应是可发现的和可访问的。包含三个层次的可操作要求:(1)可解释性——理解决策如何做出;(2)可审计性——检查和验证系统运行;(3)文档记录——设计选择和运行参数的完整记录。

6. 问责制 Accountability

设计者和操作者对系统决策和后果负责。应建立注册和记录系统,使追溯法律责任成为可能。明确的责任归属 + 伤害补救机制 + 标准合规证据。

7. 慎用意识 Awareness of Misuse

创建者应防范系统投放后的误用风险。要求进行识别潜在负面应用的风险评估、防止有害使用的保障措施设计、对意外影响的持续监控。这是五个框架中唯一将"防误用"提升为独立原则的——体现了工程背景下的务实安全思维。

8. 能力资质 Competence

操作者应具备安全运行系统所需的知识和技能。创建者应明确界定其能力范围并在其中运行。系统限制的明确声明 + 所需的适当专业知识 + 持续的技能发展。

IEEE P7000系列 — 将伦理变为可认证的工程标准

P7000系列是EAD区别于所有其他框架的核心——它将"什么是好的AI"变为"如何证明你的AI是好的"。

标准编号标题发布/状态金融行业的工程应用
IEEE 7000-2021系统设计中处理伦理问题的模型过程已发布(154名专家参与),已纳入ISO/IEC/IEEE 24748-7000银行AI系统采购时可要求供应商提供7000合规认证
IEEE 7001-2021自主系统透明度已发布信贷审批AI的透明度水平可据此分级认证
IEEE 7002-2022数据隐私过程已发布金融数据隐私保护流程的工程标准
IEEE 7003-2024算法偏见考量2025年1月通用金融模型偏见检测与缓解的标准化流程
IEEE 7007-2021伦理驱动机器人本体标准已发布金融RPA机器人的伦理设计
IEEE 7010-2020A/IS对人类福祉影响的评估推荐实践已发布金融AI对用户财务福祉影响的系统评估

本章自测(3 题)

读完了吗?

标记后会记录阅读进度,课程目录显示你的进度。