今年流行用AI恐吓公众？美畅销书《末日圣经》让评论家感到失望

今日快讯 2025年11月02日 03:18 1 aa

过去几周，媒体上充斥着对《如果有人建造它，所有人都会死。为什么超人类人工智能会毁灭我们所有人》一书的书评。该书于2025年9月发行，同时还投放了广告牌和地铁广告，标语是“我们希望我们是在夸大其词”。

《纽约时报》对该书的两位合著者，伯克利机器智能研究所（MIRI）的埃利泽·尤德科夫斯基和内特·苏亚雷斯进行了专题报道。该书的目标是“让世界回头，不再追求‘超级智能’人工智能”，从而“避免在不久的将来走向灭亡”。在随后的媒体巡回宣传中，他们不遗余力地发出人类即将灭绝的警告。

“我们目前正生活在人类历史上最后一个以人类为主导物种的时期。人类很幸运能有苏亚雷斯和尤德科夫斯基这样的人站在我们这边，”音乐人格莱姆斯说道。“这是一本里程碑式的著作，每个人都应该读一读，”《战争房间》的史蒂文·班农推荐道。演员斯蒂芬·弗莱称《IABIED》是“我多年来读过的最重要的书”。“Wait But Why”联合创始人蒂姆·厄本写道，这本书“或许会成为我们这个时代最重要的书”。“生命未来研究所”联合创始人马克斯·泰格马克称其为“这十年最重要的书”。

本书评论概要

尽管有人称赞该书毫不妥协地展现了人工智能的末日景象，但该书也招致了大量批评，批评主要集中在以下几个方面：过于自信的二元世界观；对经验主义的抵制；戏剧化的科幻写作；灾难性的预测与人工智能发展的实际表现脱节；以及脱离现实的政策建议。

为了探究这些说法，以下引述来自16 家媒体：Asterisk 杂志、Astral Codex Ten、彭博社、LessWrong、新科学家、纽约时报、Semafor、大西洋月刊、新政治家、观察家、旁观者、Transformer、Understanding AI、Vox、华盛顿邮报和 WIRED。1

综上所述，这些引言概括了IABIED评论中最普遍的批评意见。

错误的二元论观点

一些批评者认为，该书的论证依赖于一种“之前/之后”的二元对立，过于简化了技术发展的过程。该书生硬地划分了当前时期（“之前”）和“超级智能”时代（“之后”）。在当前时期，人工智能的失败是可以观察到且可以应对的；而在“超级智能”时代，“之后”则认为，一旦出现任何错误，人类就将直接走向灭绝。批评者指出，现实远比这更加连续。书中声称存在一个单一的、爆炸性的“游戏结束”阈值，这种说法缺乏说服力，因为它与人类逐步管理风险的过往记录不符。

作者们还将能力等同于控制，把“超级智能”视为某种可以绕过所有社会、物理和后勤限制的魔法。

《理解人工智能》杂志认为这本书的末日论证“不太令人信服”，并指出它未能弥合当今模型与不可避免、无法控制的人工智能“超级智能”之间的鸿沟。该杂志认为这本书引人入胜、充满活力，但对于末日必然性的论断却缺乏说服力。“他们严重高估了变革的程度，低估了维持控制的难易程度。”

《新科学家》杂志的标题是：“不，人工智能不会毁灭我们所有人，尽管这本新书声称如此。”该杂志称这种论点“表面上很有吸引力，但存在致命缺陷”。它忽略了关键的技术步骤，没有解释为什么现有技术必然会导致无法控制的“超级智能”，也没有解释为什么原则上不可能实现人工智能的协同作用。

《Semafor》杂志的一篇评论写道：“在我们还没反应过来之前，人类的命运就已经注定，人工智能将吞噬地球资源来驱动自身，并在此过程中消灭所有有机生命。如此严峻而绝对的结论，作者没有留下任何细微差别或妥协的余地。”

不过，他们也为许多寓言故事留出了空间。

猜测被误认为必然性

一些评论者指出，“人人都会死”这一核心论点依赖于堆砌的假设和寓言，而非经验证据或可检验的预测。过度依赖寓言和类比并不能证明其论点。这种重修辞轻严谨的做法经常受到批评。

《大西洋月刊》的评论指出，这些笼统的说法缺乏可验证的科学依据。该评论称这本书“带有偏见且杂乱无章……并非基于证据的科学论证”。

《纽约时报》批评这本书“怪异且无益的寓言”，并将其比作“一本科学教手册”。评论颇具描述性：“跟随书中层出不穷的离题之谈，就像被关在一个房间里，和你在大学里遇到的最烦人的学生一起，看着他们第一次尝试迷幻蘑菇。”

《变形金刚》杂志的评论称这本书“读起来很费劲”。“他们断言，‘超级智能’的目标必然与我们截然不同，但他们并没有令人满意地解释为什么这些目标必然会导致我们灭绝。”

《星界法典十号》的评论更为积极，但也褒贬不一，称《IABIED》是“对世界上最重要的议题的引人入胜的介绍”。但它也批评了本书的场景设计，认为快速接管的故事读起来像是科幻小说，但情节转折却缺乏充分的合理性：“它听起来不仅像科幻小说，而且像是不必要的戏剧化科幻小说。”

《星号》杂志认为，这本书不如作者之前的作品那样连贯，也不适合说服新手。“书中充斥着一些不太合理的例子和没有充分解释的前提。”该杂志还指出，这本书很少引用来自现代系统的经验证据。

在尤德科夫斯基的LessWrong论坛上，一篇书评指出：“仅仅声称某事有可能发生并不足以使它成为可能。而且，他们关于为什么这些事情极有可能发生的论据也很薄弱。”

传统媒体对IABIED的“非虚构”分类提出了异议。

《观察家报》将这本书描述为“科幻小说”，并指出“用小说来形容这本书或许最为贴切”。

《华盛顿邮报》称其“与其说是一本手册，不如说是一篇论战文章。它的指示含糊不清，论点冗长乏味，荒诞的寓言故事也太多了。”

《新政治家》杂志评论道：“《如果有人建造它》既是科幻小说，也是论战作品。[…] 这本书的意图似乎是为了让尤德科夫斯基（Yudkowsky）迎合机场书店读者的口味，抹去他那些狂野的观点。”

极端且不切实际的“解决方案”

《连线》杂志指出，《末日圣经》提出的政策——包括在全球范围内停止先进人工智能的研发（例如对GPU集群进行国际监控）、轰炸数据中心以及禁止发表相关研究成果——既不切实际又极端。这些政策在政治和伦理上都极具争议性，削弱了该书的实际意义。“他们提出的解决方案……似乎比‘软件会毁灭我们所有人’这种说法还要离谱。”

彭博社指出，这本书与其说是治理蓝图，不如说是“人工智能末日论的新福音”。“这本书的末日论调是刻意营造的，旨在恐吓公众，促使他们采取行动。”“但由于他们的论点主要针对政策制定者，尤德科夫斯基和索亚雷斯在错误的时间找错了受众。”

《旁观者》杂志的评论认为，“《如果有人建造它，所有人都会死》融合了三流科幻小说、低劣的技术分析，以及今年人们可能读到的最糟糕的地缘政治评估。”