Asilomar AI Principles（阿西洛马人工智能原则）

历史背景：从1975年的DNA到2017年的AI

阿西洛马会议的历史意义远超AI领域——它继承了一个深具象征意义的传统。1975年，在加州阿西洛马同一会议中心，生物学家们召开了"阿西洛马重组DNA会议"，制定了基因工程研究的自愿安全准则——这被认为是科学界自我监管的里程碑。42年后的2017年1月5-8日，当AI界的领袖们选择在同一地点开会时，他们刻意绘制了这一历史平行线：AI领域是否也应该像当年的生物技术界一样，在技术"失控"之前主动制定安全准则？

与会者名单读起来像是AI领域的全明星阵容：Stuart Russell（AI教科书作者）、Demis Hassabis（DeepMind创始人）、Yoshua Bengio和Yann LeCun（深度学习三巨头中的两位）、Ilya Sutskever（时任OpenAI首席科学家）、Elon Musk、哲学家Sam Harris、经济学家Erik Brynjolfsson……超过100位研究人员、伦理学家、律师和经济学家参加了三天的密集讨论。

23条原则在会议后以公开信形式发布，获得了1797名AI/机器人研究者和3923名其他人士的公开签署。除了与会者，额外签署者中包括斯蒂芬·霍金——他在去世前一年从剑桥大学签名支持。

截至2026年，阿西洛马原则已经九岁了。它们是在ChatGPT之前、在Transformer架构发表不到一年时写成的。然而令人惊讶的是——它们经受住了时间的考验。正如2026年一篇评论文章所指出的："它们在某种程度上比后来写的法规更有前瞻性。" 原则14"共享利益"——AI技术应当使尽可能多的人受益和赋能——在2026年AI生产力收益正向少数巨头集中的背景下，读来尤显深刻。

研究问题（5条）

1. 研究目标

AI研究的目标应当是建立有益的智能，而非无方向的智能。

The goal of AI research should be to create not undirected intelligence, but beneficial intelligence.

2. 研究资助

投资AI的同时，应资助确保其有益应用的研究——包括计算机科学、经济学、法律、伦理学和社会研究方面的棘手问题。

3. 科学与政策的关联

AI研究人员和政策制定者之间应有建设性和健康的交流——这直接催生了后续OECD、GPAI等政策平台的建立。

4. 研究文化

在AI研究人员和开发者中培育合作、信任和透明的文化（针对当时已出现的AI军备竞赛心态）。

5. 避免竞赛

AI系统开发团队应积极合作，避免在安全标准上投机取巧。这一条在今天的"大模型竞赛"中比2017年时更加紧迫。

伦理与价值观（13条，完整原文）

6. 安全性

AI系统在其整个运行期限内应当安全可靠，且在适用和可行的情况下可对此验证。

7. 故障透明

如果某AI系统引起损害，应当有办法查明原因。这在金融风控AI中对应着算法事故调查机制。

8. 司法透明

自主系统以任何形式介入司法裁决，都应提供可由有能力的专业人士核查的令人满意的解释。

9. 责任

先进AI系统的设计者和建造者是该系统的使用、滥用和功能所产生的道德影响的利益相关方，有责任和机会把控这些影响。

10. 价值观一致

设计高度自主的AI系统时，应确保其目标和行为在整个运行期限内与人类的价值观相一致。这是AI对齐（AI Alignment）问题的核心。

11. 人类价值观

AI系统的设计和操控应使其符合人类尊严、权利、自由和文化多样性方面的理念。

12. 个人隐私

考虑到AI系统分析和利用数据的能力，人们应当有权获取、管理和控制他们所产生的数据。

13. 自由和隐私

AI在个人数据方面的应用，不能不合理地剥夺人们实际的或感知的自由。

14. 共享利益

AI技术应当使尽可能多的人受益和能力得到增强。2026年的今天，这一原则比以往任何时候都更值得深思。

15. 共享繁荣

AI创造的经济繁荣应当广泛地共享，惠及全人类。

16. 人类控制

人类应当选择如何以及是否授权AI系统进行决策，以实现人类设定的目标。

17. 非颠覆

高级AI系统所赋予的权力应当尊重和改善维护社会健康所依赖的社会和公民进程，而非颠覆它们。

18. AI军备竞赛

应当避免在致命自主武器方面的军备竞赛。这是唯一明确涉及军事AI的原则——也是后续国际AI军事讨论的奠基性声明。

长远问题（5条）

19. 性能预测提醒

由于尚不存在共识，我们应当避免对未来AI性能的上限作出强势假设。

20. 重要性

高级AI可能代表着地球生命史上的深刻变化，因此应当以相应的重视程度和资源进行规划与管理。

21. 风险

对于AI系统所构成的风险，尤其是灾难性的或影响人类生存的风险，必须进行规划并付出与其预计影响相称的努力。

22. 递归的自我完善

对于能以迅速改进质量或增加数量的方式递归地自我改进或自我复制的AI系统，必须采取严格的安全与控制措施。

23. 公共利益

超级智能的开发应当只是服务于人们共同拥有的道德观念，为了全人类而非某个国家或组织的利益。