Lorsque le raisonnement devient une ressource rare, qui en capte la valeur ?

Auteur : Frank Fu, IOSG

Le « trou » identifié par David Cahn en 2023 n'a jamais été comblé du côté de l'entraînement. Il l'a été du côté de l'inférence, et le marché n'a commencé à en tenir compte dans les prix que ces dernières semaines. Lorsque Nvidia a restructuré son reporting financier autour de « jetons de service » et que Cerebras est entré en bourse avec une sursouscription de 20 fois, le débat sur le goulot d'étranglement était déjà clos, et la véritable question est devenue : lorsque l'inférence deviendra une ressource rare, où se concentrera la valeur dans l'infrastructure informatique ?

1. À la suite du GPU : De la question à 200 milliards de dollars à la question à 600 milliards de dollars

En 2023, David Cahn de Sequoia a soulevé une question cruciale pour l'ensemble de l'infrastructure de l'IA : la « question à 200 milliards de dollars ». Pour chaque dollar investi dans les GPU, il faut en dépenser environ un autre pour les alimenter dans les centres de données. Autrement dit, les investissements annuels dans les GPU impliquent que ces puces doivent générer environ 200 milliards de dollars de revenus pour rentabiliser cet investissement. Même avec des hypothèses très optimistes concernant les revenus de l'IA, il a constaté un écart de plus de 125 milliards de dollars entre les « investissements » et les « paiements effectifs des clients finaux ». Le constat est simple : on construit des GPU en avance sur la demande réelle.

Un an plus tard, l'écart non seulement ne s'est pas réduit, mais s'est en réalité creusé. Dans son analyse de 2024, Cahn l'a redéfini comme la « question à 600 milliards de dollars », face à l'explosion des dépenses d'investissement des fournisseurs de services hyperscale. Le raisonnement pessimiste se résumait à un schéma bien connu : la surproduction engendre une offre excédentaire, et cette offre excédentaire épuise les capitaux.

Ces deux articles posent essentiellement la même question : qui comblera ce manque ? La réponse ne figure pas dans la section « formation ». Elle se trouve dans la section « déduction », et le marché n’a commencé à en tenir compte dans les prix que ces dernières semaines.

2. Cerebras IPO et compression d'inférence

Cerebras est entrée en bourse jeudi. Son introduction en bourse a été sursouscrite 20 fois, le prix ayant presque doublé par rapport à l'augmentation finale de mercredi. Cette demande ne résultait pas d'un pari sur le « prochain concurrent de Nvidia », mais d'une constatation plus simple : le marché commence à comprendre que le véritable goulot d'étranglement de l'IA réside dans l'inférence, et non dans l'entraînement.

La spécialité de Cerebras est une architecture de puce qui rend l'inférence extrêmement rapide. Il ne s'agit pas d'entraînement, mais d'inférence. C'est ce qui passionne Wall Street. Le marché de l'inférence est récurrent et se développe avec l'usage. Chaque fois que Claude répond à une question, chaque fois qu'un agent effectue une tâche, de la puissance de calcul est consommée. L'entraînement est ponctuel, tandis que l'inférence est continue.

JP Morgan estime que le marché de l'inférence est 10 à 50 fois supérieur à celui de l'entraînement. Lorsque les machines exécutent des tâches assignées par d'autres machines (expansion agentique), la demande en inférence ne croît plus avec le nombre d'utilisateurs, mais avec la puissance de calcul elle-même.

3. Nvidia redessine le paysage : l'inférence au cœur du dispositif

Si Cerebras symbolise l'éveil du marché, le dernier rapport trimestriel de Nvidia en est la confirmation, venant du sommet de la chaîne d'approvisionnement. Lors de la dernière conférence téléphonique sur les résultats, Jensen Huang a levé le voile sur une vérité jusque-là taboue : la demande en IA croît de façon exponentielle. La raison est simple : l'IA autonome est arrivée. L'IA traditionnelle est passée de l'inférence ponctuelle au raisonnement logique, et maintenant à la phase d'agent, capable d'appeler des outils et d'orchestrer des tâches de manière indépendante. Huang a déclaré : « Les tokens sont désormais rentables. » À l'ère de l'IA, la puissance de calcul est synonyme de chiffre d'affaires et de bénéfices.

Cela bouleverse toute l'industrie. L'entraînement représente un coût unique pour la construction d'un modèle, tandis que l'inférence constitue le coût récurrent de son exécution, et le goulot d'étranglement actuel réside dans l'inférence, et non dans l'entraînement.

Nvidia a intégré ce jugement dans ses rapports financiers. L'entreprise présente désormais ses résultats pour deux plateformes au lieu d'une seule : Data Center et Edge Computing. La plateforme Data Center (environ 75 milliards de dollars ce trimestre, soit une hausse de 92 % sur un an) est ventilée en Hyperscale (environ 38 milliards de dollars, soit une hausse de 12 % par rapport au trimestre précédent) et ACIE, qui inclut le cloud IA, l'industrie et l'entreprise (environ 37 milliards de dollars, soit une hausse de 31 % par rapport au trimestre précédent). Une nouvelle ligne, Edge Computing (6,4 milliards de dollars, soit une hausse de 29 % sur un an), couvre les terminaux où l'IA agentique et l'IA physique sont pleinement opérationnelles, tels que les PC, les stations de travail, les stations de base AI-RAN, les robots et les véhicules.

L'Edge représente actuellement moins de 8 % du chiffre d'affaires total, mais Nvidia l'a érigé en « seconde plateforme » aux côtés des centres de données. Cela indique que l'inférence se divise en deux axes : l'inférence cloud dans les centres de données et l'inférence sur les terminaux en périphérie, où l'IA doit percevoir, se déplacer et interagir avec le monde physique. La feuille de route suit la même logique : Vera Rubin, dont les livraisons débuteront au troisième trimestre, peut atteindre un débit d'inférence jusqu'à 35 fois supérieur à celui de Blackwell ; Huang a également avancé un nouveau marché potentiel total (TAM) de 200 milliards de dollars pour le processeur Vera conçu pour les charges de travail d'agents. Tous les principaux fabricants de modèles devraient s'y engager pleinement dès le premier jour.

Alors que l'entreprise la plus valorisée au monde réorganise ses informations financières autour des « jetons de service », le débat sur le goulot d'étranglement est déjà clos. La suite de cet article examine qui capte la valeur lorsque l'inférence (plutôt que l'apprentissage) devient une ressource rare.

Tout d'abord, une précision s'impose. Cet article traite de l'inférence dans le cloud, qui fait référence aux GPU loués dans les centres de données et fournissant des services d'API. L'inférence sur les terminaux s'exécute sur les puces locales des appareils (Nvidia Jetson, RTX, Drive, AI-RAN), court-circuitant ainsi la couche de location et d'agrégation des GPU sous-jacente. Il convient de considérer ce phénomène comme un facteur de croissance amplifiant l'ensemble de l'économie de l'inférence et étayant l'argument du goulot d'étranglement, et non comme une conséquence des marchés où opèrent Hyperbolic et Venice, qui se situent exclusivement dans le cloud.

4. La pression est arrivée

Anthropic est le signal d'alarme. Son utilisation dépasse largement sa capacité initiale, et les plaintes concernant la saturation de Claude affluent sur Internet : réponses ralenties, inférences ralenties et fenêtres de contexte compressées. La solution réside essentiellement dans la puissance de calcul : en mai 2026, Anthropic a repris l'intégralité du centre de données Colossus 1 de SpaceX, doté de plus de 220 000 GPU Nvidia et d'une puissance de plus de 300 mégawatts, et le consacre exclusivement à l'inférence plutôt qu'à l'entraînement.

Cette capacité permet une série de modifications de quotas, chacune servant de signal. Le 6 mai, Anthropic a doublé la limite de cinq heures pour Claude Code, supprimé la limitation de débit aux heures de pointe et augmenté significativement les limites de débit de l'API pour Opus. Le 13 mai, la limite hebdomadaire de Claude Code a été augmentée de 50 % (jusqu'au 13 juillet). Puis, à partir du 15 juin, Anthropic a fait le contraire de la générosité habituelle : l'utilisation par les agents et par les programmes (SDK Agent, mode sans interface graphique claude -p, pipeline CI) a été séparée de l'abonnement forfaitaire et placée dans un système de crédits facturés indépendamment (de 20 à 200 $ par mois, au tarif de l'API). Cette dernière mesure résume l'argument principal : la vitesse à laquelle les agents consomment l'inférence dépasse largement la capacité des abonnements forfaitaires ; il est donc nécessaire de la facturer en fonction de son « coût récurrent » initial.

La formation représente un investissement initial unique. L'inférence, quant à elle, engendre des coûts opérationnels récurrents, qui augmentent avec chaque nouvel utilisateur et chaque nouvel agent.

5. Cette pile : six couches, un goulot d'étranglement

Chaque application d'IA repose sur une chaîne d'approvisionnement qui commence par la fabrication des plaquettes de TSMC et se termine au point de terminaison de l'API :

La plupart des entreprises ne possèdent qu'une seule couche de cette architecture. Nvidia possède les puces, CoreWeave possède le matériel nu, Together AI possède l'optimisation de l'inférence et OpenRouter possède le routage de l'API de modèle.

Il n'y a qu'une seule exception.

6. Hyperbolic : La seule entreprise présente sur trois niveaux

Hyperbolic a lancé sa plateforme de GPU à la demande en juin 2025. Au cours des premiers mois, le nombre de ses développeurs a dépassé les 200 000, couvrant des laboratoires d'IA de pointe, la recherche et de grandes plateformes grand public.

Son architecture est intéressante.

Hyperbolic ne possède aucun GPU. Toutes ses cartes proviennent de néocloud et de centres de données, notamment CoreWeave, Lambda Labs, Nebius, et d'opérateurs plus petits disposant de capacités inutilisées. Cela pourrait passer pour un point faible, mais c'est en réalité un atout majeur.

En se positionnant comme intermédiaire entre les fournisseurs et les consommateurs de GPU, Hyperbolic a accès à des données en temps réel inaccessibles aux autres. L'entreprise sait qui achète quel GPU, à quel prix et à quel moment. Elle détecte les surproductions avant même qu'elles ne soient rendues publiques et anticipe les pics de demande avant qu'ils n'atteignent le marché.

Aujourd'hui, le véritable atout de cette plateforme réside dans son agrégation multicloud. Hyperbolic rassemble les capacités fragmentées de dizaines de clouds et de centres de données indépendants au sein d'un pool unifié et standardisé, permettant ainsi aux développeurs de louer les GPU les moins chers disponibles, où qu'ils soient, sans avoir à négocier avec chaque opérateur ni à gérer une multitude de comptes. Plus la plateforme se connecte à de clouds, plus la liquidité est importante et plus les données de prix sont riches. De plus, l'équipe étudie comment modéliser les courbes de prix des GPU à partir de ces données et, à terme, investir ses propres capitaux pour lisser l'offre et la demande, en jouant le rôle de teneur de marché pour la puissance de calcul physique. Cependant, cet objectif n'en est qu'à ses débuts, et c'est la couche d'agrégation qui prend véritablement son essor actuellement.

Voici le volant d'inertie :

Connectez davantage de clouds → Offre plus agrégée

Plus d'offre → Marchés plus approfondis et données de prix en temps réel

Des données de meilleure qualité → Un routage plus intelligent dès maintenant et des modèles de tarification à long terme

Meilleure liquidité et prix → Plus de développeurs → Plus de clouds souhaitent se connecter

Aucune autre entreprise ne s'y essaie. Hyperbolic est la seule à couvrir l'ensemble du processus, de la location de GPU au déploiement, en passant par l'API de modélisation.

7. Venise comme un miroir

Venice est l'exemple le plus flagrant d'économie de l'inférence au niveau applicatif et offre un contraste pertinent avec la position d'Hyperbolic. Cette application d'inférence privilégie la confidentialité : elle propose un ensemble d'API compatibles avec OpenAI, ainsi que des abonnements (Gratuit / Pro / Pro+ / Max), acheminant les requêtes vers environ 75 modèles. Les deux tiers de ces modèles sont open source ou auto-hébergés (Llama, Mistral, Qwen, DeepSeek), tandis que le reste consiste en des transferts anonymes vers des modèles propriétaires de pointe. L'atout majeur de Venice réside dans le fait qu'elle ne possède pas de puissance de calcul significative. Elle loue des GPU auprès de partenaires non divulgués et de fournisseurs de calcul confidentiels (NEAR AI Cloud, Phala) et rémunère des laboratoires de pointe pour des transferts de ressources. Son véritable coût est donc la puissance de calcul d'inférence, et non l'hébergement SaaS.

Ce que Venice vend réellement, c'est la confidentialité. La « privatisation » ici ne signifie pas transformer la puissance de calcul publique en propriété privée, mais plutôt envelopper l'inférence standardisée d'une couche de garanties : aucune conservation des données, aucun entraînement, anonymisation des requêtes et certaines charges de travail exécutées dans un environnement d'exécution de confiance (TEE), empêchant les opérateurs de voir le texte en clair. La puissance de calcul sous-jacente est standard, et la marge provient de cette couche de protection de la vie privée. De plus, cette garantie est stratifiée et non homogène : pour les modèles open source exécutés sur des GPU sous son contrôle ou dans un TEE, elle peut atteindre une confidentialité de bout en bout ; mais pour les transferts anonymes de modèles propriétaires comme Claude et GPT, la confidentialité se limite à masquer l'identité, tandis que les laboratoires de pointe à l'autre extrémité traitent toujours votre requête originale. Ainsi, la confidentialité maximale ne couvre que la partie open source, tandis que la partie relative aux modèles de pointe est « anonyme » plutôt que « véritablement confidentielle ». Le bénéfice brut de Venice = prix de l'abonnement - coûts d'inférence payés en aval, et la part qu'elle peut facturer au-delà du prix de base de l'API repose presque entièrement sur cette couche de prime de confidentialité, ce qui explique pourquoi elle fonctionne avec de faibles marges et est contrainte par une tarification de pointe.

La conception du token a permis de gérer cette partie de la demande d'inférence. Venice fonctionne avec deux tokens : VVV (staking et accès à la plateforme) et DIEM, ce dernier étant un crédit d'inférence. Chaque DIEM équivaut approximativement à 1 $ de puissance de calcul par jour. Les abonnements payants déclenchent des rachats automatiques de VVV (Pro / Pro+ / Max : environ 2 $ / 5 $ / 10 $), les émissions diminuant selon un calendrier fixe : de 6 millions à 5 millions puis 4 millions de VVV par mois, pour atteindre 3 millions le 1er juillet. Ces rachats sont effectifs mais discrétionnaires et restent modestes : environ 103 000 $ ont été détruits en avril et en mai, et le montant de juin augmente lentement pour atteindre environ 110 000 $, bien en deçà du seuil mensuel de 200 000 $.

Les fondamentaux sont plus solides que ne le laissent entendre les gros titres. Le chiffre de « 70 millions de dollars de revenus annuels récurrents » (ARR) diffusé publiquement résulte très probablement d'une confusion entre les renouvellements d'abonnements et les nouvelles acquisitions de clients ; une fourchette plus réaliste se situe entre 6 et 15 millions de dollars d'ARR. En deçà, l'activité est bien réelle : environ 136 000 adresses de portefeuille uniques, près de 9,9 millions de visites sur le site web par mois (soit environ 330 000 par jour) et environ 1 400 nouveaux abonnements Pro par jour. Il s'agit d'une véritable activité, mais à faible marge, dont la rentabilité est limitée par la puissance de calcul utilisée.

C’est précisément pourquoi Hyperbolic se situe un niveau au-dessus. Si Venice est une station-service, Hyperbolic en est la raffinerie. Venice achète de la puissance de calcul auprès du même fournisseur limité dont tout le monde dépend ; Hyperbolic agrège et standardise cette offre fragmentée et la vend à Venice et à tous les acteurs similaires. À mesure que la demande d’inférence augmente, la valeur s’accumule non seulement pour les applications consommatrices de puissance de calcul, mais aussi pour la couche qui agrège et achemine cette puissance, et qui capte le coût des revenus payés par ces applications.

8. Pourquoi c'est important maintenant

Nvidia a restructuré ses finances autour des « jetons de service ». L'introduction en bourse de Cerebras prouve que le marché a compris que l'inférence constitue le principal goulot d'étranglement. La recherche effrénée de capacités par Anthropic démontre qu'il s'agit d'un problème bien réel. L'IA agentique et physique va décupler la demande, tant dans le cloud qu'en périphérie de réseau.

De plus, cela a permis d'apporter un éclairage nouveau sur la « question à 600 milliards de dollars ». Le raisonnement pessimiste de Cahn, selon lequel la surproduction entraîne une offre excédentaire, se confirmera probablement. Or, cette offre excédentaire représente précisément le scénario optimal pour les agrégateurs à faible intensité capitalistique : lorsque les prix des GPU baissent et que l'offre se fragmente sur des dizaines de clouds, l'acteur qui ne possède aucun matériel et qui achemine toutes les charges de travail vers les cartes les moins chères disponibles gagnera la différence de prix, tandis que les opérateurs possédant des GPU en perte de valeur subiront les pertes. Hyperbolic parie sur l'offre excédentaire plutôt que de la vendre à découvert.

L'entreprise qui finira par l'emporter ne sera pas celle qui possède le plus de GPU, mais celle qui saura indiquer quels GPU sont disponibles, où et à quel prix, en acheminant chaque charge de travail vers l'endroit où elle peut s'exécuter au moindre coût.

Hyperbolic est en train de bâtir une entreprise de ce type. Elle ne possède pas de GPU, fonctionne exclusivement grâce à des logiciels, s'étend sur trois couches, et pourtant devient la couche d'agrégation ultime pour la puissance de calcul d'inférence.