当推理能力成为一种稀缺资源时，谁来获取它的价值？

作者：Frank Fu，IOSG

David Cahn 在 2023 年提出的“漏洞”在训练端从未被填补。它在推理端已被填补，而市场直到最近几周才开始将其反映在定价中。当英伟达围绕“服务代币”重组其财务报告，而 Cerebras 上市时超额认购 20 倍时，关于瓶颈的争论就已经结束了，真正的问题变成了：当推理成为稀缺资源时，价值将在计算堆栈的哪个部分集中？

1. 关注GPU：从价值2000亿美元的问题到价值6000亿美元的问题

2023年，红杉资本的David Cahn提出了一个笼罩整个人工智能基础设施的问题，即所谓的“2000亿美元问题”。每投入1美元用于GPU，就需要投入大约1美元用于数据中心的电力供应，这意味着每年的GPU资本支出意味着这些芯片最终必须产生约2000亿美元的收入才能收回成本。即使对人工智能收入做出非常乐观的假设，他仍然发现“投资”和“终端客户的实际支付”之间存在超过1250亿美元的缺口。问题很简单：GPU的产能过剩，远远超过了实际需求。

一年后，差距不仅没有缩小，反而扩大了。在2024年的后续报告中，卡恩将其重新定义为“价值6000亿美元的问题”，因为超大规模供应商的资本支出飙升。悲观的逻辑最终归结为一个熟悉的模式：过度建设导致供应过剩，而供应过剩会消耗大量资金。

这两篇文章本质上都在问同一个问题：谁来填补这个空白？答案从未出现在账本的“训练”端，而是出现在推理端。市场直到最近几周才开始在定价中考虑这一点。

2. Cerebras IPO 和推理挤压

Cerebras于周四上市。此次IPO认购倍数高达20倍，定价几乎是周三最终涨幅的两倍。市场需求并非源于对“下一个英伟达杀手”的押注，而是源于一个更简单的认识：市场开始意识到，人工智能真正的瓶颈在于推理，而非训练。

Cerebras 的专长在于其芯片架构，该架构能够实现极快的推理速度。关键不在于训练，而在于推理。这正是华尔街所关注的。推理市场是一个循环市场，会随着使用量的增加而不断扩张。每次 Claude 回答问题，每次智能体执行任务，都会消耗计算能力。训练只需进行一次，而推理却永不停歇。

摩根大通估计，推理市场的规模是训练市场的10到50倍。当机器开始执行其他机器分配的任务时，即智能体扩展时，推理需求不再随用户数量的增长而增长，而是随计算能力本身的增长而增长。

3. 英伟达重塑格局：推理成为核心

如果说 Cerebras 代表着市场的觉醒，那么英伟达最新的季度报告则是来自供应链顶端的有力佐证。在最近的财报电话会议上，黄仁勋明确地指出了一个不言而喻的事实：人工智能的需求正在呈抛物线式增长。原因很简单：智能体人工智能时代已经到来。主流人工智能已经从一次性推理过渡到逻辑推理，如今又迈入了智能体阶段，能够自主调用工具并协调任务。黄仁勋表示：“代币现在可以盈利了。”在人工智能时代，计算能力等同于收入和利润。

这将重塑整个行业。训练是构建模型的一次性成本，而推理是运行模型的持续成本，目前的瓶颈在于推理，而不是训练。

英伟达已将这一判断纳入其财务报告。现在，该公司将业绩披露分为两个平台，而非之前的单一平台：数据中心和边缘计算。数据中心（本季度约 750 亿美元，同比增长 92%）进一步细分为超大规模数据中心（约 380 亿美元，环比增长 12%）和 ACIE（包括 AI 云、工业和企业级应用，约 370 亿美元，环比增长 31%）。新增的边缘计算业务规模为 64 亿美元，同比增长 29%，涵盖了智能体 AI 和物理 AI 真正运行的终端设备，例如 PC、工作站、AI-RAN 基站、机器人和汽车。

边缘计算目前仅占总营收的不到 8%，但英伟达已将其提升为与数据中心并驾齐驱的“第二平台”。这表明推理能力正在分化为两个阵营：数据中心的云推理和边缘端的端点推理，后者需要人工智能在物理世界中进行观察、移动和行动。产品路线图也遵循同样的逻辑：将于第三季度开始发货的 Vera Rubin 的推理吞吐量可达 Blackwell 的 35 倍；黄仁勋还指出，专为智能体工作负载设计的 Vera CPU 拥有 2000 亿美元的潜在市场规模 (TAM)。预计所有领先的模型公司都将在 Vera CPU 上市之初就全面转向该平台。

随着全球市值最高的公司围绕“服务代币”重组其财务披露，瓶颈之争已告一段落。本文余下部分将探讨，当推理（而非训练）成为稀缺资源时，谁将获得价值。

首先，需要澄清一下范围。本文讨论的是云推理，指的是租用数据中心的GPU提供API令牌服务。端点推理则运行在设备内部的本地芯片上（例如Nvidia的Jetson、RTX、Drive、AI-RAN），完全绕过了底层的GPU租赁和聚合架构。在这里，请将其视为推动整个推理经济发展的顺风，并支持瓶颈论点，而不是Hyperbolic和Venice运营的完全基于云端的市场。

4. 挤压期已至

Anthropic就像煤矿里的金丝雀，预示着问题的严重性。其使用量远远超过了预设容量，关于Claude模型“大脑被抽取”的抱怨充斥着网络，包括响应速度降低、推理速度变慢以及上下文窗口压缩等问题。解决方案的关键在于计算能力：2026年5月，Anthropic从SpaceX手中接管了整个Colossus 1数据中心，该数据中心拥有超过22万个Nvidia GPU和300多兆瓦的电力，并将其专门用于推理而非训练。

这种容量调整引发了一系列配额变更，每一次变更都起到信号作用。5月6日，Anthropic 将 Claude Code 的五小时使用限制翻倍，取消了高峰时段的限速，并大幅提高了 Opus 的 API 速率限制。5月13日，它将 Claude Code 的每周限额再次提高了 50%（有效期至7月13日）。然后，从6月15日开始，它采取了与“慷慨”截然相反的措施：将代理和程序化使用（代理 SDK、无头模式 Claude -p、CI 流水线）从固定订阅中分离出来，放入一个独立计量的信用池（每月 20 美元至 200 美元不等，按 API 费率计费）。最后这一步将所有论点浓缩成一个行动：代理消耗推理的速度远远超过了固定订阅的设计容量，因此必须根据其最初的“经常性成本”定价。

培训是一次性资本支出。推理是经常性运营成本，每增加一个用户或一个代理，成本就会增加。

5. 这个堆栈：六层，一个瓶颈

每个人工智能应用都依赖于一条供应链，这条供应链从台积电的晶圆制造开始，最终到达API终端：

大多数公司只拥有这个技术栈中的一层。英伟达拥有芯片，CoreWeave拥有裸机，Together AI拥有推理优化，而OpenRouter拥有模型API路由。

只有一种例外情况。

6. Hyperbolic：唯一一家跨越三层的公司

Hyperbolic 于 2025 年 6 月推出了按需 GPU 市场。在最初的几个月里，其开发者数量超过了 20 万，涵盖了尖端人工智能实验室、搜索和大型消费平台。

有趣的是，它的建筑风格。

Hyperbolic 本身并不拥有任何 GPU。所有显卡均来自 neocloud 和数据中心，包括 CoreWeave、Lambda Labs、Nebius 以及其他一些拥有闲置容量的小型运营商。这听起来像是一个弱点，但实际上却是一道护城河。

Hyperbolic 位于 GPU 供应商和消费者之间，能够获取其他公司无法获取的实时数据。它知道谁在何时以什么价格购买了哪些 GPU。它能在供应过剩公开之前就发现问题，并在需求激增真正进入市场之前就检测到需求高峰。

如今，其真正的护城河在于这种多云聚合。Hyperbolic 将数十个独立云和数据中心的碎片化容量整合到一个标准化的统一池中，使开发者能够租用任何地方最便宜的可用 GPU，而无需与每个运营商谈判或管理大量账户。它连接的云越多，流动性就越强，定价数据也越丰富。此外，该团队正在探索如何利用这些数据对 GPU 价格曲线进行建模，并最终投入自有资金来平滑供需，充当物理计算能力的做市商；但这一目标仍处于早期阶段，真正发挥复合效应的是聚合层。

这是飞轮：

连接更多云平台 → 聚合更多供应

更多供应 → 更深层次的市场和实时定价数据

更优质的数据 → 更智能的路线规划，以及长期的定价模式

更好的流动性和价格 → 更多开发者 → 更多云平台希望接入

没有其他公司尝试这样做。Hyperbolic 是唯一一家能够覆盖 GPU 租赁层、部署层和模型 API 层的公司。

7. 威尼斯：一面镜子

Venice 是应用层推理经济最清晰的体现，与 Hyperbolic 的定位形成了鲜明的对比。它是一款以隐私为先的推理应用：一套兼容 OpenAI 的 API，以及消费者订阅服务（免费版/专业版/专业增强版/最高版），将请求路由至约 75 个模型，其中三分之二是开源或自托管模型（Llama、Mistral、Qwen、DeepSeek），其余则是匿名传递的闭源前沿模型。关键在于 Venice 本身并不拥有强大的计算能力。它从未公开的 GPU 合作伙伴和保密的计算服务提供商（NEAR AI Cloud、Phala）租用计算资源，并向尖端实验室支付传递费用，因此其真正的收入成本是推理计算能力，而非 SaaS 托管服务。

Venice真正出售的是隐私。这里的“私有化”并非指将公共计算能力转化为私有财产，而是将商品化的推理过程包裹在一层保障之中：不保留数据、不进行训练、请求匿名化，以及部分工作负载在TEE环境下运行，使得运营商无法查看明文。底层计算能力是商品级的，而价格优势则来自于这层隐私包装。此外，这种保障是分层的，而非同质的：对于在其控制或TEE环境下运行于GPU上的开源模型，Venice可以实现近乎端到端的保密计算；但对于Claude和GPT等闭源模型的匿名传递，隐私仅仅剥离了身份信息，而另一端的尖端实验室仍然在处理你的原始请求。因此，最强的隐私保护仅覆盖开源部分，而尖端模型部分只是“匿名”而非“真正保密”。 Venice 的毛利润 = 订阅价格 - 下游支付的推断成本，它在基本 API 价格之上可以收取的费用几乎完全依赖于这一层隐私溢价，这就是为什么它的利润率很低，并且受到尖端转嫁定价的限制。

代币设计已将这部分推理需求打包其中。Venice 使用两种代币：VVV（用于质押和平台访问）和 DIEM，后者是一种推理积分，每个 DIEM 大约相当于每天 1 美元的计算能力。付费订阅会触发 VVV 的程序化回购（Pro/Pro+/Max 版本分别约为 2 美元/5 美元/10 美元），发行量会根据固定计划递减：每月从 600 万枚 VVV → 500 万枚 → 400 万枚，并在 7 月 1 日调整至 300 万枚。回购是真实存在的，但并非强制性的，而且规模仍然较小：4 月和 5 月分别销毁了约 10.3 万美元，6 月的销毁量正在缓慢攀升至约 11 万美元，远低于每月 20 万美元的目标。

基本面比媒体报道的要好得多。公开流传的“7000万美元年度经常性收入（ARR）”几乎可以肯定是将订阅续订误认为是新增客户所致；一个更合理的ARR范围应该在600万美元到1500万美元之间。低于这个范围，业务增长是实实在在的：约有13.6万个独立钱包地址，每月网站访问量约为990万次（日均约33万次），每日新增专业版订阅用户约为1400人。这的确是一项实实在在的业务，但利润率很低，其盈利能力受限于所购买的计算能力。

这正是 Hyperbolic 位于其上一层的原因。如果把 Venice 比作加油站，那么 Hyperbolic 就是炼油厂。Venice 从所有人都依赖的同一受限资源中购买计算能力；Hyperbolic 则聚合并标准化这种分散的资源，然后将其出售给 Venice 以及所有与之类似的参与者。随着推理需求的增长，价值不仅会流向消耗计算能力的应用程序，还会流向聚合、路由计算能力并获取这些应用程序支付的收入成本的层。

8. 为什么这件事现在很重要

英伟达已围绕“服务代币”重组了其财务结构。Cerebras 的 IPO 证明市场已经意识到推理能力是瓶颈所在。Anthropic 对容量的疯狂需求也表明这确实是一个现实问题。智能体和物理人工智能将使需求呈指数级增长，并覆盖云端和边缘计算。

此外，它也从另一个角度解答了“价值6000亿美元的问题”。Cahn的悲观逻辑——过度建设会导致供应过剩——很可能得到验证。但供应过剩恰恰是轻资产聚合商的最佳选择：当GPU价格下跌，供应分散到数十个云平台时，那些不拥有任何硬件、将所有工作负载路由到最便宜可用显卡的参与者将赚取价格差价，而持有贬值GPU的运营商则将承担损失。Hyperbolic押注的是供应过剩，而不是做空。

最终胜出的公司不会是拥有最多 GPU 的公司，而是能够告诉你哪些 GPU 在哪里可用、价格是多少，并将每个工作负载路由到成本最低的地方运行的公司。

Hyperbolic 正在打造这样一家公司。它不拥有 GPU，完全依靠软件运行，跨越三层架构，却正在成为推理计算能力的终极聚合层。