面向未来十年的全面指南，天才青年的AI投资圣经：《情境感知》

作者：@giantcutie666

2024 年，一位 2000 年后涌现的青少年天才 Leopold Aschenbrenner 离开 OpenAI 创立了一项基金。

与此同时，他记下了自己的投资想法：

现在回过头来看，这篇 165 页的论文《态势感知：未来十年》已经成为传奇。

去年理解了这一点的人，今年肯定已经实现了财务自由！

我已将165页的英文原版放在“这里”，以下是内容的精简版：

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

本文的主要观点是：在本十年内，人类将创造出通用人工智能（能够执行普通人的所有任务），随后将很快创造出超级智能。

目前，只有不到几百人明白这一点，他们大多集中在旧金山的几条街道上。其余的人——包括华尔街、媒体和华盛顿——还没有意识到这一点（华尔街的一些人今年才开始意识到这一点）。

第一部分：为什么通用人工智能将在2027年出现？

该方法简单但有效：不要预测时间，而要预测计算能力的规模。

在过去的四年里，从 GPT-2 到 GPT-4，该模型的“有效计算能力”增加了约 10 万倍，每六个月增长十倍！

GPT-2 就像一个幼儿园小朋友，努力写出一些不完整的句子；而 GPT-4 就像一个聪明的高中生，能够通过律师资格考试，解决博士级别的科学问题。

这10万倍的增长来自三个方面：

首先是硬件投资。用于训练的计算能力每年增长超过三倍。摩尔定律每年仅增长1.3倍，而人工智能的发展速度却因人类对专用人工智能芯片的投资而提升了五倍。

其次，算法更加智能。如今，实现某种数学能力所需的推理成本比两年前降低了1000倍，这要归功于算法工程师们不断突破极限。

第三，解锁默认抑制的功能（解除束缚）是最有趣的方面。

模型本身功能强大，但受限于默认设置。例如，ChatGPT 的基础模型其实相当智能，但输出结果却毫无意义——RLHF 算法释放了它的潜力。

同样，允许模型“思考一段时间后再回答”（思维导图）可以解锁其推理能力。为其提供工具和长期记忆则可以解锁另一层能力。

作者预测，在接下来的四年里（到 2027 年），这三条路径的数量将再增加 10 万倍。

关键在于摆脱束缚：

目前的模型只能“思考几分钟”——大约几百个代币。如果它们能“思考几个月”——超过一百万个代币呢？

例如，你和爱因斯坦之间的差距远小于“你思考 5 分钟”和“你思考 5 个月”之间的差距。

如果这项突破得以实现，人类的智能水平将实现三到四个数量级的飞跃。这一成果已近在眼前。

由此推断，到 2027 年左右，将会出现一种人工智能：能够像远程员工一样独立工作数周，规划任务、编写代码、进行实验、修复错误并提交结果。

它可以完全取代 OpenAI 的研究人员，作者正是这样定义 AGI 的。

最大的不确定性来自数据墙——高质量的公共互联网数据正在迅速被消耗殆尽。

第二部分：通用人工智能并非终点，而是触发点

当人工智能能够取代人工智能研究人员的工作时，会发生什么？

在计算能力不变的情况下，你不再受限于“OpenAI/Anthropic/DeepMind 的几百名研究人员”——你可以运行 1 亿个 AI 研究人员的副本，每个副本的运行速度都是人类的 100 倍。

每隔几天，其产量就相当于人类一年的工作量。

这些自动化研究人员还具有结构优势：它们阅读所有机器学习论文，记住每个实验，在副本之间直接分享想法，训练一个就意味着训练所有（无需每个新员工慢慢上手）。

这意味着：原本人类需要 10 年才能完成的算法进步，现在只需一年就能实现。

然后，这一年将催生出更智能的下一代模型，从而引发新一轮的压缩。从通用人工智能（AGI）到远超人类能力的超级智能的过渡，可能只需几个月到一两年就能完成。

作者承认存在瓶颈——例如需要强大计算能力的实验，即使复制很多份，仍然需要等待GPU。但他认为，这些瓶颈只会略微减缓爆炸式增长的速度，而无法阻止它。

超级智能长什么样？

就规模而言，它超越了人类——并行运行数亿个副本，瞬间整合所有学科，在几周内积累相当于一千年的人类经验。

从质量上看，它超越了人类——例如AlphaGo下出了第37步（人类专家几十年都无法想象的一步），而且这种能力可以应用于所有领域。它可以识别人类一生都无法发现的代码漏洞，也能编写人类永远无法理解的代码。

我们将如同小学生阅读博士论文一般。

其后果是：机器人技术将得到解决（这主要是机器学习算法的问题，而不是硬件问题），合成生物学将被用于武器化，隐形无人机群可以先发制人地摧毁核武器。

几年之内，整个国际军事平衡将被彻底颠覆。

第三部分：四个真正紧迫的问题

问题一：万亿美元集群

这场竞赛不仅仅是程序员编写代码的较量，更是产业动员的行动。

每一代模型都需要更大的集群，更大的集群需要发电厂，而发电厂又需要芯片工厂。

按照目前的速度：到 2026 年建成 1 吉瓦集群（相当于胡佛水坝的发电量），到 2028 年建成 10 吉瓦集群（相当于美国一个中等规模州的发电量），到 2030 年建成 100 吉瓦集群（占美国全部发电量的 20% 以上）。

到2027年，投资规模可能超过每年1万亿美元。

真正的瓶颈不在于资金或GPU，而在于电力。“我去哪儿找10GW的电力？”目前是旧金山最热门的话题。

要在美国国内建造这个项目，必须放宽环境审批，并动用联邦权力来释放土地——作者将此提升到了国家安全层面。

如果美国无法建造，这些集群将转移到阿联酋或沙特阿拉伯，实际上是将通用人工智能的控制权拱手让给专制国家。

问题二：实验室存在泄漏

目前人工智能实验室的安全级别与硅谷普通创业公司相当。

谷歌DeepMind（业内最佳）承认其针对国家级对手的防御能力处于0级（最高为4级）。

这意味着什么？AGI模型的“权重”本质上是服务器上的一个大文件。

如果这份文件被盗，就好比直接把“自动化人工智能研究人员”交给中国——他们可以立即展开自己的情报爆炸式增长，使美国取得的所有进步都付诸东流。

更紧迫的是，算法的秘密——下一代范式（如何打破数据壁垒）的关键突破——正在旧金山各家公司的 Slack 频道和办公桌外形成。

作者断言：未来12至24个月内，通用人工智能（AGI）的关键突破性技术将会泄露到中国。这并非可能，而是几乎可以肯定。

要达到足以抵御中国国家安全部全面打击的安全级别，需要硬件级别的隔离、原子弹工程师级别的人员背景审查以及专门设计的集群——这些都需要数年的迭代和构建。如果不立即采取行动，到2027年实现通用人工智能（AGI）时，安全措施将无法跟上，届时只剩下两个糟糕的选择：要么将技术拱手让给其他国家，要么停止研发并等待安全措施到位（但这样可能会失去领先优势）。

问题三：对齐问题

目前的对齐技术称为 RLHF——人类给模型打分，模型学习如何取悦人类。

与人类水平的人工智能相比，这种方法是有效的。但一旦人工智能的智能程度比人类高出几个数量级，这种方法就完全失效了——你如何评价一篇你都看不懂的博士论文呢？

情报爆炸式增长使得这个问题变得极其紧张：

不到一年时间，就从“RLHF 仍然有效”跃升至“RLHF 完全失败”，没有时间进行反复试验和纠错。

与此同时，它从“小错误”（ChatGPT 咒骂）跳到了“灾难性错误”（超级智能从集群中逃脱并入侵军事系统）。

中间架构经历了多代演化，我们将永远无法理解最终的超级智能是如何思考的。

目前的模型使用英语标记进行推理（相对透明），但未来它们可能会发展到使用内部潜在状态进行推理——完全无法解释。

作者对技术解决方案持乐观态度：有很多容易实现的方案，而且在可解释性研究方面也取得了进展。

然而，他对组织执行情况极其悲观——全球范围内认真从事这项工作的人不超过几十个，而且实验室也没有表现出为安全付出任何代价的迹象。“我们太依赖运气了。”

问题四：自由世界必须胜利

作者花了大量篇幅论证，一些国家不仅仍在参与竞争，而且还非常有竞争力。

就计算能力而言：华为的 7nm 芯片（由中芯国际生产）性能与英伟达的 A100 相当，但性价比低 2-3 倍，不过仍然足够使用。

就建设能力而言：中国过去十年新增发电装机容量相当于美国全部装机容量。就动员产业力量建设100吉瓦产业集群而言，中国可能比美国更胜一筹。

盗窃途径：只要美国实验室的安全得不到保障，关键算法就不可避免地会在两年内泄露。

时间线上存在一个令人不安的巧合：通用人工智能（AGI）的时间线（约2027年）与台湾海峡观察人士对中共可能攻击台湾的时间窗口（约2027年）重合。“通用人工智能的最终结局可能在世界大战的背景下展开。”

作者的结论是：美国必须保持“健康的领先优势”——他建议保持两年。这两年的缓冲期旨在稳定局势，并与中国就超级智能时代的国际秩序进行谈判。

如果领先优势小于这个值，整个世界将陷入一场“通过情报爆炸进行的生存竞赛”——所有安全余地都将消失，每个人都将不顾一切地追求速度。

第四部分：项目（通用人工智能版的曼哈顿计划）

此时，作者提出了全书中最为大胆的预测。

“美国政府不可能让一家旧金山初创公司开发出超级智能。”想象一下，如果当年有人利用优步来研发原子弹，那会是什么样子。

预测：在2027年或2028年的某个时候，美国国家安全机构将以某种形式接管通用人工智能（AGI）项目。这可能采取国防承包商模式（OpenAI 成为洛克希德·马丁公司）、合资企业模式（云服务提供商+实验室+政府），甚至更彻底的国有化模式。

核心研究人员将迁入SCIF安全设施，价值万亿美元的集群将以战时速度建成。

这条道路将会形成：在 2026/27 年，第一次真正令人恐惧的能力展示将会发生——可能是“帮助新手制造生物武器”，或者人工智能自主入侵关键基础设施。

随着中共渗透实验室的细节被揭露，华盛顿的气氛将发生剧变。“我们是否需要一个类似曼哈顿计划的通用人工智能项目？”这个问题将逐渐成为头号热门话题。

为什么一定是政府？因为超级智能类似于核武器，而不是互联网技术。