超级智能战略（Superintelligence Strategy）

Superintelligence Strategy

Source | HN Comments

文章探讨了超级智能（Superintelligence）对国家安全的影响。鉴于AI快速发展可能导致力量失衡和冲突，以及AI被滥用的风险，文章提出了“相互确保AI故障（MAIM）”战略，类似于核威慑，即阻止任何国家单方面追求AI统治。该战略包含威慑、不扩散和竞争力三个关键部分，分别通过间谍活动、控制AI芯片流通和增强经济军事实力来实现，旨在应对超级智能带来的挑战。

下载PDF 标准版本10页专家版本32页

Superintelligence Strategy

Dan Hendrycks , Eric Schmidt , Alexandr Wang

摘要

AI 技术的快速发展正在开始重塑国家安全。不稳定的 AI 发展可能打破力量平衡，增加大国冲突的几率；而有能力的 AI 黑客和病毒学家的广泛扩散将降低流氓行为者造成灾难的门槛。AI 研究人员现在预计会出现超级智能（Superintelligence）——在几乎所有认知任务上都远远优于人类的 AI。正如各国曾经制定核战略来确保自身生存一样，我们现在需要一个连贯的超级智能战略来应对变革性变化的新时期。我们引入了Mutual Assured AI Malfunction (MAIM) 的概念：一种类似于核互相确保摧毁 (MAD) 的威慑机制，即任何国家单方面追求 AI 统治地位的激进行为，都将遭到竞争对手的预防性破坏。考虑到破坏一个不稳定的 AI 项目相对容易——通过从秘密网络攻击到潜在的对数据中心的动能打击等干预手段——MAIM 已经描述了 AI 超级大国所处的战略格局。与此同时，各国可以与流氓行为者进行不扩散合作，防止可武器化的 AI 能力落入他们手中，并且可以通过 AI 来增强其经济和军事实力，从而提高竞争力。总而言之，威慑、不扩散和竞争力这三个部分构成的框架，为未来几年应对超级智能提供了一个强有力的战略。