2026-10-23
AI 风险必读书单
想认真了解 AI 风险，从这几本书开始。按入门难度和相关性排序，书名为英文原名，链接会帮你找到中文版。
If Anyone Builds It, Everyone Dies
Eliezer Yudkowsky, Nate Soares · 2025
两位长期研究 AI 对齐的作者给出最悲观的判断：在现有技术路线上造出超级智能，人类很可能无法存活。论证直接，适合想看「最坏情况」的人。
Human Compatible: Artificial Intelligence and the Problem of Control
Stuart Russell · 2019
经典 AI 教科书的作者解释：为什么「给机器设定固定目标」本身就是危险的，以及让 AI 对人类偏好保持不确定的替代方案。
The Alignment Problem: Machine Learning and Human Values
Brian Christian · 2020
用大量真实案例讲机器学习系统如何学到和设计者本意不同的东西。不需要技术背景，是了解「对齐」最好读的入门书。
Superintelligence: Paths, Dangers, Strategies
Nick Bostrom · 2014
把「超级智能风险」带进主流讨论的开山之作。论证密度高，读起来偏哲学，但后来的大部分讨论都从这里出发。
Life 3.0: Being Human in the Age of Artificial Intelligence
Max Tegmark · 2017
物理学家描绘 AI 可能带来的多种未来，从乌托邦到人类灭绝，并讨论我们现在能做什么选择。
The Precipice: Existential Risk and the Future of Humanity
Toby Ord · 2020
牛津哲学家给核战争、疫情、AI 等生存风险逐一估算概率，并认为失控的 AI 是本世纪最大的一项。
The Coming Wave
Mustafa Suleyman, Michael Bhaskar · 2023
DeepMind 联合创始人从业内视角谈 AI 和合成生物学的扩散为什么难以遏制，以及「遏制」可能长什么样。