Anthropique, Dario Amodei et « La Dernière Compagnie Privée »

Titre original : « Anthropic, Dario Amodei et 'La Dernière Compagnie Privée' »
Auteur original : Beating

Il existe deux récits contradictoires, mais plausibles, concernant Dario Amodei, le fondateur d'Anthropic.

On peut l'interpréter comme le gardien le plus lucide de notre époque. Alors que le monde entier se précipite vers le précipice de la superintelligence, il est le seul à se tenir au bord du chemin, avertissant sans cesse qu'un abîme se profile à l'horizon.

Une autre version de l'histoire le décrit comme l'un des hommes les plus ambitieux de la Silicon Valley. Il dirige la société d'IA la plus puissante au monde et travaille sans relâche pour bâtir, petit à petit, le futur dont tout le monde a mis en garde.

Il est possible pour une même personne de faire ces deux choses en même temps.

Il baptisa ce monde imaginaire « Le Royaume des Génies dans les Centres de Données ». Ce royaume abritait cinquante millions de génies qui ne dormaient jamais, travaillaient 24 heures sur 24, pensaient des dizaines de fois plus vite que la moyenne et pouvaient se répliquer à l'infini. Ce royaume n'avait ni territoire ni frontières ; il existait au sein d'immenses rangées de centres de données.

En janvier 2026, il a couché cette vision sur le papier dans un long article intitulé « L'adolescence de la technologie ».

Puis il est allé encore plus loin. Et si un jour ces cinquante millions de génies cessaient d'obéir à l'humanité ?

Les scènes qui suivirent étaient dangereuses. Armes biologiques, chômage de masse, dictature, guerre… il les énuméra une à une. Finalement, il déclara : « Il ne nous reste plus beaucoup de temps. »

Dans le même article, il a également écrit : « L'IA écrit déjà beaucoup de code pour Anthropic, contribuant ainsi à rendre plus rapide la prochaine génération de modèles. »

Il a prévenu tout en accélérant. Il n'y voyait aucune contradiction.

C'est là le point de départ de tout le problème ; ce n'est pas qu'il soit mauvais, c'est qu'il ne s'en rend vraiment pas compte.

Bien sûr, il a ses explications. Anthropic pourrait s'arrêter, mais OpenAI, Google et les entreprises d'autres pays ne s'arrêteront pas non plus. Personne n'est prêt à abandonner le premier, et celui qui s'arrêtera en premier sera probablement incapable d'arrêter quoi que ce soit, se contentant de laisser le champ libre aux autres.

Cet argument se traduit par : puisque tout le monde s'agite, laissons-moi prendre l'initiative. Puisque personne ne peut s'arrêter, laissons-moi décider quand m'arrêter.

Par conséquent, la question de savoir s'il faut ou non créer une superintelligence importe peu. Selon lui, elle sera créée tôt ou tard. Ce qui compte vraiment, c'est qui la créera en premier, et qui sera qualifié pour la diriger ce jour-là.

Trop tard

Dario Amodei est né à San Francisco en 1983. Son père était originaire de Toscane, en Italie, et avait passé sa vie dans le commerce d'articles en cuir ; sa mère était d'origine juive, originaire de Chicago, et avait contribué à la planification et à la construction de la bibliothèque publique de San Francisco.

Il était passionné de mathématiques et de physique depuis son plus jeune âge. À la fin des années 1990, pendant l'éclatement de la bulle internet dans la Silicon Valley, les entreprises fleurissaient les unes après les autres, des jeunes créaient des sites web, cherchaient des investissements et calculaient les sommes qu'ils pourraient empocher le jour de l'introduction en bourse. Ces histoires ne l'ont pas touché. Bien des années plus tard, il a déclaré que ce qu'il recherchait alors, c'était une « vérité scientifique fondamentale » ; il voulait simplement comprendre pourquoi le monde est tel qu'il est.

Il a toujours accordé une importance quasi obsessionnelle aux questions dites « importantes ». Une fois qu'il a décidé qu'une chose était suffisamment importante, il ne comprend pas comment on peut ralentir et agir comme si de rien n'était.

En 2003, alors que les États-Unis s'apprêtaient à envahir l'Irak, il étudiait à Caltech. Le campus comptait de nombreux pacifistes. Lors de discussions, certains exprimèrent leurs inquiétudes ; le lendemain, tout le monde se rendit en cours comme d'habitude. Il publia un article dans le journal étudiant, critiquant ses camarades et affirmant que s'ils craignaient réellement qu'une guerre fasse de nombreuses victimes, leur opposition ne devait pas rester purement verbale ; il serait trop tard pour le regretter une fois le conflit déclaré.

Selon lui, l'hésitation n'est jamais synonyme de neutralité. Attendre est en soi un choix.

Ce que cette jeune femme de vingt ans supportait le moins, c'était l'attente.

Trois ans plus tard, à l'âge de vingt-trois ans, son père décède d'une hépatite C.

À l'époque, il n'existait pratiquement aucun traitement curatif pour l'hépatite C. Le traitement standard consistait à prendre de l'interféron pendant un an, mais cela pouvait provoquer de la fièvre, une chute de cheveux et une dépression, et le taux de guérison était inférieur à 50 %.

En décembre 2013, un nouveau médicament a été approuvé. La durée du traitement a été réduite à douze semaines, avec un taux de guérison de 95 %.

Son père n'a pas vécu assez longtemps pour le voir.

Seulement sept ans d'écart.

Un fils qui n'a pas pu sauver son père a passé les vingt années suivantes à exhorter la science à progresser toujours plus vite.

Après la mort de son père, il abandonna la physique théorique pour se consacrer à la biophysique, étudiant les circuits neuronaux de la rétine à Princeton. Jugeant les instruments de l'époque trop lents, il participa au développement de nouveaux capteurs.

Plus tard, il a intégré la faculté de médecine de Stanford pour étudier le cancer et les protéines. Plus on se rapproche d'une maladie, plus on se sent insignifiant. Une maladie implique des centaines de gènes, des dizaines de milliers de protéines et d'innombrables voies de signalisation interconnectées. Les chercheurs peuvent passer des années à tenter de comprendre un maillon de la chaîne, sans pour autant savoir ce qui se produira lorsque ce maillon sera réintroduit dans l'organisme.

Il a décrit plus tard la complexité de la situation comme une situation qui l'avait presque conduit au désespoir.

C’est à cette époque qu’il a commencé à envisager l’intelligence artificielle ; c’était un outil capable d’étendre considérablement les capacités humaines. Les machines pouvaient lire de nombreux articles, traiter une grande quantité de données et explorer simultanément de nombreuses possibilités, remplaçant ainsi le travail cognitif qui nécessitait auparavant des centaines, voire des milliers de chercheurs.

Partant du principe que « les humains sont trop insignifiants », il en a conclu qu'il devait créer quelque chose de plus grand et compresser à nouveau les humains.

En 2014, il a quitté le secteur des sciences de la vie pour rejoindre l'équipe d'IA de Baidu dans la Silicon Valley. L'équipe a rapidement constaté que plus le modèle était grand, plus les données étaient nombreuses et plus la puissance de calcul était importante, meilleures étaient ses performances. Quelques années plus tard, cette expérience a été résumée sous le nom de « loi d'échelle » : on ne peut prédire avec certitude ce que la prochaine génération de modèles apprendra, mais on peut raisonnablement estimer qu'elle sera plus performante que la précédente.

Les caméras intelligentes semblent désormais pouvoir être produites en masse, à l'instar des produits industriels. L'émergence d'une intelligence artificielle puissante était donc inévitable.

Les autres différences résident simplement dans la quantité de données, le nombre de puces, la consommation d'énergie et le temps d'attente.

Celui qui détestait le plus attendre a prouvé de ses propres mains que le chemin menant à la réponse qu'il cherchait existait bel et bien.

volant

En 2016, Dario Amodei a rejoint OpenAI.

Dans les années qui suivirent, le modèle de langage connut une croissance fulgurante. Avec GPT-3, OpenAI confia plus de la moitié de sa puissance de calcul à Dario, qui multiplia par cent la taille du modèle. Les résultats furent encore plus étonnants que prévu : il pouvait rédiger des articles, traduire, résumer et accomplir d’autres tâches qu’il avait apprises de manière autonome, sans aucun enseignement.

Plus l'échelle augmente, plus la capacité augmente également.

Il était convaincu que cette voie menait à l'intelligence générale. Et une fois admise la possibilité que les modèles puissent un jour devenir aussi intelligents que les humains, la sécurité ne serait plus une question anodine.

Il a alors découvert un problème. Dario était chargé de la conception du modèle, mais il s'est progressivement rendu compte que concevoir le modèle et décider de son avenir étaient deux choses bien distinctes. Le moment de sa publication, son degré d'ouverture, les entreprises partenaires et les personnes habilitées à prendre les décisions ne relevaient pas automatiquement de sa responsabilité, du simple fait qu'il était responsable de son développement.

OpenAI est divisée en interne en deux groupes. L'un souhaite commercialiser rapidement la technologie à l'échelle mondiale ; l'autre craint que l'identité des dirigeants et les principes qui guident l'entreprise soient plus importants que tout détail technique particulier.

Quel type de personne est donc qualifié pour diriger une entreprise qui produit des renseignements puissants ?

Sa réponse fut que les dirigeants doivent être honnêtes, que leurs motivations doivent être sincères et qu'ils doivent véritablement vouloir que le monde soit meilleur.

La sécurité technologique est progressivement devenue une question de jugement des individus. Ce raisonnement est à la fois dangereux et logique. Le danger réside dans le fait qu'il réduit tous les problèmes complexes à la simple question de la fiabilité d'une personne. Or, dans ce raisonnement, l'élément toujours manquant est : qui décide de la fiabilité d'une personne ?

En 2020, le conflit entre lui et la direction d'OpenAI était devenu irréconciliable. En décembre de la même année, il quitta OpenAI avec sa sœur Daniela, Jack Clark, Chris Olah et plusieurs collègues. Comme Dario aimait les pandas, ce petit groupe était surnommé en interne la « Faction Panda ».

Quelques mois plus tard, ils fondèrent Anthropic. Anthropic, dans le dictionnaire, signifie « relatif aux personnes ».

Cette fois-ci, Dario n'a pas l'intention de céder le volant à quelqu'un d'autre.

Vingt personnes

En 2021, la pandémie était toujours en cours à San Francisco.

Anthropic est une entreprise relativement jeune, qui ne compte qu'une quinzaine ou une vingtaine d'employés. La plupart du temps, leurs réunions se tiennent via Zoom ; une fois par semaine, chacun apporte une chaise et ils se retrouvent dans un parc. Pendant le déjeuner, ils discutent de modélisation, de puissance de calcul, de recherche en sécurité et de la vision à long terme de l'entreprise.

Moins de vingt personnes étaient assises sur l'herbe à San Francisco, tenant peut-être une demi-boîte de salade à moitié pleine, mais elles étaient préoccupées par l'avenir de huit milliards d'êtres humains.

La loi d'échelle leur dicte que l'avenir est inévitable. Puisqu'il doit advenir, il faut bien que quelqu'un prépare le terrain à l'avance. Cette nécessité de « quelqu'un » justifie à elle seule leur légitimité.

L'objectif d'Anthropic est de développer simultanément des modèles de pointe, de mener des recherches sur la manière de les comprendre et de les contrôler, puis de faire de cet ensemble de méthodes de sécurité la norme pour les autres entreprises.

Dario a tiré les leçons de son expérience chez OpenAI. Il a compris que parler de sécurité depuis la périphérie de la technologie ne fait que conseiller ceux qui contrôlent réellement les modèles. Aussi éloquent soit-on, c'est comme essayer d'apprendre à nager à quelqu'un qui est déjà dans l'eau, depuis le rivage.

Vous devez entrer vous-même dans l'eau.

Cela donne à Anthropic une apparence plutôt étrange dès le départ. Pour connaître les dangers que représente le modèle le plus performant, il faut d'abord posséder ce modèle ; pour influencer la réglementation, il faut d'abord avoir de l'influence dans le secteur.

De ce fait, Anthropic s'est rapidement retrouvée prise dans le cycle auquel toutes les entreprises de modélisation à grande échelle de pointe ne peuvent échapper : lever des fonds, acheter de la puissance de calcul, entraîner des modèles, lancer des produits, conquérir des clients, puis utiliser les nouveaux revenus et la valorisation pour acquérir encore plus de puissance de calcul.

Dario affirme que la croissance de l'entreprise contribue à la protection de la planète. Les investisseurs sont également convaincus qu'investir dans Anthropic, c'est investir dans une entreprise d'IA plus responsable.

Le génie de cet argument réside dans le fait que plus il gagne d'argent, plus il paraît moral ; plus la valorisation de l'entreprise est élevée, plus la preuve qu'il « protège le monde » est convaincante.

Les intérêts commerciaux et la mission de la civilisation se renforcent mutuellement.

Dario a donné les directives. Il a rédigé un long article sur la civilisation, la science et l'avenir de l'humanité. Sa sœur, Daniela, s'est chargée de concrétiser ces grandes idées, en gérant le recrutement, la constitution de l'équipe et la collecte de fonds.

Le point de départ de l'entreprise était un jugement majeur qu'il est presque impossible de réfuter :

Une intelligence artificielle puissante arrive, et le monde a besoin d'une entreprise plus digne de confiance pour prendre les devants.

« Plus digne de confiance », affirme l'entreprise elle-même.

Ce récit a conféré à Anthropic un fort sentiment de cohésion. Ceux qui l'ont rejoint ne cherchaient pas simplement un emploi mieux rémunéré. Ils étaient convaincus de contribuer à une cause d'une importance capitale pour la civilisation humaine.

L'état le plus terrifiant pour une entreprise est celui où ses employés croient sincèrement sauver l'humanité. Car dès lors, toute expansion commerciale se transforme automatiquement en croisade ; toute voix dissidente devient une trahison de l'humanité.

À ses débuts, Anthropic souhaitait prouver qu'une entreprise spécialisée en IA pouvait être plus prudente et responsable que les autres. Ce désir était probablement sincère.

Mais la sincérité ne garantit jamais l'exactitude. Les personnes sincères rencontrent souvent plus de difficultés que les hypocrites lorsqu'elles commettent des erreurs, car elles ne s'arrêtent jamais pour se demander :

Que signifie exactement être responsable ?

Qu’est-ce qui donne à une entreprise privée le droit de prendre des décisions pour le monde entier ?

règle

Au début, l'entraînement des modèles à grande échelle reposait généralement sur un grand nombre d'annotateurs humains chargés d'évaluer les réponses. Ces derniers devaient d'abord déterminer quelles réponses étaient pertinentes, quel contenu était nuisible et si le modèle devait le rejeter, puis transmettre ces préférences à la machine.

Bien qu'efficace, cette méthode est aussi complexe. Les annotateurs proviennent d'horizons divers et ont des valeurs différentes. Même les règles les plus détaillées ne peuvent pas couvrir toutes les situations.

Anthropic a imaginé une autre approche. Au lieu de laisser les humains expliquer sans cesse au modèle comment répondre à chaque question, il lui a d'abord fourni un ensemble de principes. En 2022, Anthropic a proposé l'« IA constitutionnelle ». La méthode consiste, en résumé : laisser le modèle générer des réponses, puis identifier les failles de ces réponses à partir d'un ensemble de principes écrits, repérer les problèmes et enfin les corriger.

Cette « constitution » s'allonge sans cesse. Elle doit appréhender les notions de pouvoir et de conflits d'intérêts, et comprendre ce que sont la maturité et la sagesse. Elle doit même prendre en compte sa propre identité, sa situation et son bien-être, et ne pas se considérer comme un simple outil sans valeur intrinsèque.

Cela forge la personnalité.

Anthropic stipule dans ses statuts que ce document influence directement le comportement de Claude, représente la vision de l'entreprise quant à ses valeurs et à son caractère, et constitue l'« autorité suprême » pour comprendre comment Claude doit agir. Historiquement, ces responsabilités incombaient à l'Église, aux empereurs et aux partis politiques. Aujourd'hui, il s'agit d'une entreprise privée.

Lorsque l'impact d'un modèle à grande échelle sur le monde ne se limite plus à une consommation ponctuelle, ce que Claude rejette ou encourage, et la façon dont il décrit un pays, une guerre ou un système politique, influenceront les produits dérivés et deviendront partie intégrante de la compréhension du monde par les autres.

Anthropic prend toujours ses décisions de manière institutionnelle, mais l'impact de ces décisions ressemble de plus en plus à celui d'une institution publique, sans pour autant nécessiter le moindre contrôle de la part d'une institution publique.

Après avoir établi une charte pour ses modèles, Anthropic a commencé à définir des règles de fonctionnement pour le secteur. En 2023, l'entreprise a lancé sa « Politique de mise à l'échelle responsable ». Un modèle capable uniquement de rédiger des courriels et un autre capable de concevoir des armes biologiques et de lancer des cyberattaques sophistiquées ne peuvent évidemment pas être gérés de la même manière. C'est pourquoi Anthropic classe ses modèles selon différents niveaux de risque. Plus un modèle est performant, plus le risque potentiel qu'il représente est élevé et plus les mesures de sécurité mises en œuvre par l'entreprise sont rigoureuses.

Une entreprise privée a joué plusieurs rôles. Elle a fabriqué les maquettes ; une fois celles-ci terminées, elle a mesuré leur niveau de danger ; elle a établi les normes définissant ce qui constituait un danger ; elle a également défini les limites à ne pas franchir en matière de prévention des dangers ; et enfin, elle a utilisé ces résultats pour conseiller les organismes de réglementation sur la manière d’élaborer les règles.

Il était à la fois athlète et arbitre.

Anthropic a manifestement pris en compte cet aspect. Afin d'éviter que l'entreprise ne soit entièrement absorbée par des intérêts commerciaux, Anthropic a créé une fiducie de défense des intérêts à long terme. Cette fiducie, composée de membres externes n'ayant aucun intérêt économique direct dans l'entreprise, vise à garantir qu'Anthropic prenne en compte les intérêts humains à long terme, au-delà du simple rendement pour les actionnaires. Selon le projet initial, la fiducie devait progressivement acquérir le pouvoir de nommer et de révoquer la majorité des administrateurs, et ainsi freiner les agissements de l'entreprise lorsqu'elle s'écarte de sa mission.

Du point de vue de la gouvernance d'entreprise, un tel dispositif est plutôt rare. La plupart des startups, lors de leurs levées de fonds, s'attachent à prouver aux investisseurs leur capacité à connaître une croissance rapide. Anthropic, en revanche, a fait le choix inverse, en mettant en place une structure visant à empêcher les futurs investisseurs et la direction de renoncer à leurs promesses de sécurité dans le seul but de générer des profits.

Il serait injuste de dire que ce n'est qu'une façade. Anthropic prend le pouvoir plus au sérieux que la plupart des entreprises technologiques et n'hésite pas à prendre des risques. Mais du début à la fin, sa principale préoccupation a toujours été d'optimiser l'utilisation de ce pouvoir, et non de savoir si elle devait le posséder.

Une entreprise née avec une mission ne se demandera jamais « Pourquoi est-ce que j'existe ? » Elle se demandera seulement « Comment puis-je exister mieux ? »

Elle n'a pas répondu à la question « Qui t'a donné le pouvoir ? », elle a simplement proclamé que, puisqu'elle possédait déjà ce pouvoir, elle comptait bien être une bonne personne.

À ce stade, Dario ne se contentait plus de diriger une entreprise. Sa philosophie sécuritaire imprégnait profondément ses modèles et ses politiques publiques. Il commença alors à débattre des pays qui devraient acquérir en priorité des renseignements de pointe, des systèmes politiques qui méritaient d'être protégés et de ceux qui devraient déterminer l'ordre dans lequel le monde acquerrait ces renseignements.

L'avenir est réservé à l'Amérique en premier.

En 2024, Dario Amodei a écrit « Machines de grâce bienveillante ».

Le nom provient d'un poème. En 1967, le poète Richard Brautigan a écrit « Tous veillés par des machines de grâce bienveillante » au Caltech :

Un poème sur la réconciliation entre les machines et toute chose. Il emprunta ce titre pour écrire l'une des prophéties technologiques les plus optimistes de l'histoire de l'humanité.

Une IA puissante deviendra une équipe de recherche composée d'innombrables scientifiques de haut niveau, travaillant jour et nuit à analyser des articles et à concevoir des expériences, condensant des décennies de progrès scientifique en quelques années seulement. Le cancer, les maladies infectieuses et les maladies génétiques pourront être vaincus à grande échelle. L'humanité pourra enfin comprendre les mécanismes de la dépression, de l'anxiété et de la dépendance. L'espérance de vie pourra être allongée et les pays pauvres pourront s'affranchir de l'industrialisation.

Il a formulé une prédiction très audacieuse : si une IA puissante se développe sans heurts, les progrès biomédicaux des 50 à 100 prochaines années pourraient être réalisés en 5 à 10 ans.

Il est difficile de ne pas penser à son père.

Son fils a attendu sept ans l'approbation d'un nouveau médicament qui aurait pu sauver d'autres personnes, mais il était trop tard pour le sauver lui. Il espère que les générations futures n'auront pas à attendre aussi longtemps.

Dans un monde idéal, il croit sincèrement que cette technologie peut réduire les maladies, les souffrances et la mort. Il a même évoqué précisément comment faire en sorte que les bienfaits de l'IA ne profitent pas uniquement aux pays riches ; il espère que l'IA pourra contribuer au développement des pays du Sud et que les retombées technologiques bénéficieront au plus grand nombre dans le monde.

Mais lorsqu'il a commencé à parler de la manière d'atteindre cet avenir, les choses n'étaient plus aussi universelles.

Il estime que l'émergence d'une IA puissante confère aux nations un avantage certain. Cet avantage ne peut se résumer à la simple supériorité des produits ou au meilleur classement d'une entreprise. Il repose nécessairement sur des atouts dans les domaines des semi-conducteurs, de la puissance de calcul, de l'énergie, des chaînes d'approvisionnement, des capacités militaires et des alliances internationales.

Les États-Unis et leurs alliés doivent acquérir des semi-conducteurs plus performants et construire des centres de données de plus grande envergure, tout en empêchant leurs concurrents stratégiques d'obtenir les puces nécessaires à l'entraînement des modèles les plus avancés. Une fois l'IA puissante véritablement disponible, ils devront l'exploiter pour accroître leurs avantages militaires et économiques et établir une position difficilement contestable par les autres pays.

Puis vint le moment de partager.

Il faut distribuer les médicaments et sécuriser les puces. Sa promesse de « faire en sorte que les générations futures n'aient pas à attendre » se résume en réalité à « faire en sorte que ceux qui remplissent les critères n'aient pas à attendre ». Et c'est à lui de définir qui remplit ces critères.

Il a même décrit cet état comme « l'éternel 1991 ». En 1991, l'Union soviétique s'est effondrée, la guerre froide a pris fin et les États-Unis et leurs alliés ont acquis une supériorité écrasante. Il espère qu'une intelligence artificielle puissante pourra recréer un tel moment historique.

Veuillez noter l'importance de cette analogie. Une technologie qui prétend bénéficier à toute l'humanité est idéalement perçue comme l'hégémonie unipolaire la plus totale de l'histoire humaine.

« Le monde appartient à tous » — ces quatre personnages sont magnifiquement écrits. Cependant, « le monde » appartient aux États-Unis, tandis que « l'appartenance à tous » appartient à Anthropic.

Puis DeepSeek a vu le jour. Des entreprises chinoises, malgré des ressources relativement limitées, ont entraîné des modèles compétitifs. Dario estime que cela illustre parfaitement les capacités exceptionnelles de la Chine en matière de recherche et d'ingénierie. Une fois qu'elles auront acquis suffisamment de puces de pointe, les entreprises chinoises seront peut-être capables d'entraîner les modèles les plus performants au monde.

Par conséquent, nous ne pouvons absolument pas leur donner la puce.

Plus l'adversaire est fort, plus le blocus se justifie ; lorsqu'il prouve sa valeur, il devient la raison même du blocus. Cette logique est immuable, car elle forme un cercle vicieux.

Il distingue deux scénarios d'avenir. Le premier est un monde bipolaire, où les deux camps peuvent développer des modèles extrêmement performants, transformant la course à l'intelligence en une nouvelle Guerre froide. Le second est un monde unipolaire, où les États-Unis et leurs alliés contrôlent la quasi-totalité de la puissance de calcul avancée, et où l'Occident exploite sa position dominante acquise ces dernières années pour se forger un avantage technologique, économique et militaire, qu'il consolide ensuite.

Il aspirait manifestement à un second avenir. Tous les discours sur le bien de l'humanité, sur la fin de l'attente, sur des machines en harmonie avec toute chose, n'étaient qu'un prélude face à « l'éternelle unipolarité ».

Il s'était publiquement opposé à un discours selon lequel il n'appréciait pas la façon dont les fondateurs d'entreprises d'IA se présentaient comme des prophètes menant l'humanité vers le salut, et se méfiait de certaines entreprises qui utilisaient leurs avantages technologiques pour façonner unilatéralement l'avenir de tous.

Il s'opposa au prophète. Mais il fit exactement la même chose que le prophète.

Il voyait tous les dangers sauf lui-même.

Revenons en arrière, en janvier 2026, à « L'adolescence de la technologie ».

Dans cet article, Dario Amodei a recensé la quasi-totalité des critiques formulées à son encontre et à l'encontre d'Anthropic.

Il a reconnu que les entreprises de pointe en IA acquièrent un pouvoir rarement vu dans l'histoire des entreprises privées. Il a même affirmé sans ambages que ces entreprises pourraient utiliser leurs produits pour influencer les opinions politiques des utilisateurs, voire les « manipuler ». Il a exhorté le public à surveiller de près ces entreprises et les gouvernements à se méfier de leur proximité avec le pouvoir d'État.

Il craint également que l'IA ne concentre davantage les richesses et le pouvoir politique. Avec quelques entreprises détenant le contrôle des renseignements, des richesses et des informations, l'influence des citoyens ordinaires sur l'économie et la gouvernance diminuera progressivement.

Il a perçu tous ces dangers. Il les a consignés clairement et précisément. Rares sont ceux qui, au cœur du pouvoir, seraient aussi francs sur la dangerosité de leur position.

C’est précisément parce qu’il est si bien écrit que nous devons nous demander : Et ensuite ?

Chaque fois qu'il propose une solution, il finit toujours par revenir à la même direction. En poussant ses solutions jusqu'au bout, Anthropic gagne systématiquement en puissance. Plus le modèle est dangereux, plus Anthropic a besoin de rester à l'avant-garde ; moins les gouvernements sont compétents techniquement, plus ils s'en remettent à son jugement ; plus le public est influençable par le modèle, plus Anthropic doit en expliciter les valeurs ; moins les autres pays inspirent confiance, plus les États-Unis et leurs entreprises d'IA doivent contrôler les puces et la puissance de calcul.

Il a admis que pour chaque maladie, on prescrivait la même chose : anthropique.

Il était convaincu, profondément convaincu, que cette technologie était trop dangereuse pour être confiée à n'importe qui. Il pensait également avoir perçu ce danger plus tôt que la plupart des gens.

La personne sincère est parfois la première que l'on trompe, surtout lorsque les avantages de se tromper soi-même sont si importants.

Il semblait sincèrement convaincu que cette technologie était trop dangereuse pour être confiée à n'importe qui. Il croyait aussi sincèrement avoir perçu ce danger avant la plupart des gens.

Ces deux phrases forment ensemble un ensemble complet d'auto-légitimation. Il n'a jamais besoin de se déclarer gardien de l'humanité. Il lui suffit d'éliminer sans cesse ceux qu'il juge peu fiables : le marché est mauvais, le public est mauvais, les États autoritaires sont mauvais, les autres entreprises ne sont pas assez prudentes. Une fois tout le monde éliminé, celui qui est le plus apte à prendre les rênes est, ironiquement, Anthropic.

Le point final du processus d'élimination, c'est toujours lui-même.

Il ne croit pas que quiconque ait le droit de décider de l'avenir de l'humanité.

Il a donc décidé de le faire lui-même.

La dernière entreprise privée

Le 14 août 2026, une phrase a été diffusée par un podcast.

« Chez Anthropic, ils sont très confiants. Plusieurs personnes de confiance m'ont dit que Dario avait déclaré un jour : Anthropic pourrait bien devenir la seule entreprise privée au monde. »

C'est Gavin Baker, un gestionnaire de fonds spéculatifs qui a investi dans SpaceX, qui a tenu ces propos. Il a ajouté que, dans cette vision, il n'y avait que l'anthropique, et ensuite les gouvernements. C'est tout.

En moins de 24 heures, l'expression est devenue virale sur les réseaux sociaux.

« C’est arrogant », a déclaré David Sacks, ancien conseiller de la Maison-Blanche pour l’IA et les cryptomonnaies et actuel coprésident du Conseil des conseillers du président pour la technologie. « C’est un peu comme SBF. »

Le lendemain soir, Dario a publié deux longs messages sur X en réponse.

Le premier article traite de la réglementation. L'auteur affirme que l'approche « centralisée ou décentralisée » est un faux dilemme ; un système véritablement efficace décentralise le pouvoir.

« Le système judiciaire formel peut parfois sembler rigide et élitiste, mais il est mieux à même de protéger les personnes vulnérables que son alternative : la justice populaire. Dans le meilleur des cas, une institution peut donner du pouvoir aux idées plutôt qu’aux individus. »

Le deuxième article traite de la diffusion de l'information. Il affirme que le sentiment négatif du public envers l'IA découle d'une crise de confiance. Il aborde ensuite la partie la plus importante de ses deux longs articles :

« Je pense que la critique la plus juste adressée jusqu'à présent aux entreprises d'IA, y compris Anthropic, est que nous n'avons pas tenu notre grande promesse d'améliorer la vie des gens. C'est entièrement de notre faute. »

« La véritable approche efficace consiste à guérir le cancer. »

Aucun de ses deux longs articles n'abordait directement la rumeur. Il a utilisé une question concrète pour en éluder une autre.

Il a déclaré que pour véritablement guérir le cancer, il fallait utiliser l'IA pour stimuler les progrès médicaux, en rendant disponibles de nouveaux médicaments plus rapidement que pour toute autre maladie.

Ceci est pour une personne décédée en 2006. Cette personne attendait un flacon de médicament, a attendu longtemps, mais il n'est jamais arrivé.

Dès lors, il considéra la lenteur comme un péché. Quiconque perçoit la lenteur comme un péché voit la rapidité comme le seul remède. Un remède est une bonne chose. Mais il voulait que tous croient que lui seul pouvait préparer cet antidote.

En 1986, l'auteur britannique Alan Moore publia une bande dessinée intitulée *Les Gardiens de la Galaxie*, qui fut par la suite adaptée au cinéma. L'un des personnages du film est Adrian Witt, surnommé le Pharaon, qui prétend être l'homme le plus intelligent du monde.

Il a pressenti le désastre imminent avant tout le monde. Guerre nucléaire, apocalypse, autodestruction de l'humanité. Il s'y est préparé pendant la moitié de sa vie. Puis il a compris que les simples avertissements étaient vains.

Il a donc personnellement déclenché la catastrophe. Du jour au lendemain, plusieurs villes ont été rayées de la carte.

Il pensait que ce n'est que lorsque l'humanité serait témoin de destructions que les deux superpuissances cesseraient de se battre, et que le monde pourrait alors enfin connaître la paix.

Il était le meurtrier, mais aussi le sauveur qu'il croyait être.

Finalement, tout se déroula comme il le souhaitait. Il demanda au docteur Manhattan, bleu et quasi omniscient :

« La fin ? Adrian, rien n'est fini. Rien ne sera jamais fini. »