Anthropic, Dario Amodei und „Die letzte Privatkompanie“

Originaltitel: „Anthropic, Dario Amodei und 'The Last Private Company'“
Originalautor: Beating

Es gibt zwei widersprüchliche, aber dennoch plausible Versionen der Geschichte von Dario Amodei, dem Gründer von Anthropic.

Eine Interpretation besagt, dass er der besonnenste Wächter unserer Zeit ist. Während die ganze Welt auf den Abgrund der Superintelligenz zusteuert, steht er allein am Wegesrand und warnt immer wieder vor dem drohenden Unheil.

Einer anderen Version zufolge ist er einer der ehrgeizigsten Menschen im Silicon Valley. Er leitet das weltweit mächtigste KI-Unternehmen und arbeitet Tag und Nacht daran, Stück für Stück die Zukunft zu erschaffen, vor der alle gewarnt haben.

Es ist möglich, dass eine Person beides gleichzeitig tut.

Er nannte diese erträumte Welt „Das Reich der Genies in Rechenzentren“. Dieses Reich beherbergte fünfzig Millionen Genies, die niemals schliefen, rund um die Uhr arbeiteten, dutzende Male schneller dachten als gewöhnliche Menschen und unzählige andere, genau wie sie selbst, replizieren konnten. Dieses Reich kannte kein Land, keine Grenzen; es existierte innerhalb unzähliger Reihen von Rechenzentren.

Im Januar 2026 verfasste er einen langen Artikel mit dem Titel „Die Adoleszenz der Technologie“, in dem er diese Vision niederschrieb.

Dann ging er noch einen Schritt weiter. Was wäre, wenn diese fünfzig Millionen Genies eines Tages aufhörten, der Menschheit zu gehorchen?

Die darauffolgende Szene war gefährlich. Biologische Waffen, Massenarbeitslosigkeit, Diktatur, Krieg – er zählte sie nacheinander auf. Schließlich sagte er: „Uns bleibt nicht mehr viel Zeit.“

Im selben Artikel schrieb er außerdem: „KI schreibt bereits eine Menge Code für Anthropic und trägt so dazu bei, die nächste Generation von Modellen zu beschleunigen.“

Er warnte, während er beschleunigte. Er sah darin keinen Widerspruch.

Hier liegt der Ausgangspunkt des ganzen Problems; es ist nicht so, dass er schlecht ist, sondern dass er es einfach nicht merkt.

Natürlich hat er seine Erklärung. Anthropic mag aufhören, aber OpenAI nicht, Google nicht, und auch Unternehmen in anderen Ländern werden nicht aufhören. Niemand ist bereit, als Erster aufzugeben, und wer als Erster aufgibt, wird wahrscheinlich nichts mehr aufhalten können und die Früchte einfach anderen überlassen.

Dieses Argument bedeutet: Da alle durcheinanderrennen, soll „ich“ der Erste sein. Da niemand anhalten kann, soll „ich“ entscheiden, wann ich anhalte.

Ob eine Superintelligenz entwickelt werden sollte oder nicht, ist daher weniger wichtig. Seiner Ansicht nach wird sie ohnehin früher oder später entstehen. Entscheidend ist vielmehr, wer sie zuerst entwickelt und wer dann qualifiziert sein wird, sie zu steuern.

Zu spät

Dario Amodei wurde 1983 in San Francisco geboren. Sein Vater stammte aus der Toskana in Italien und hatte sein Leben im Lederwarenhandel verbracht; seine Mutter war jüdischer Abstammung, kam aus Chicago und hatte zur Planung und zum Bau der San Francisco Public Library beigetragen.

Schon in jungen Jahren begeisterte er sich für Mathematik und Physik. Ende der 1990er-Jahre, während der Dotcom-Blase im Silicon Valley, schossen Unternehmen wie Pilze aus dem Boden, junge Leute erstellten Websites, suchten nach Investoren und rechneten aus, wie viel Geld sie am Tag des Börsengangs einstreichen konnten. Diese Geschichten berührten ihn nicht. Viele Jahre später sagte er, dass er damals nach „fundamentalen wissenschaftlichen Wahrheiten“ gesucht hatte; er wollte einfach nur verstehen, warum die Welt so ist, wie sie ist.

Er hat seit langem eine fast schon obsessive Ernsthaftigkeit gegenüber sogenannten „wichtigen Angelegenheiten“. Sobald er entschieden hat, dass etwas wichtig genug ist, kann er nicht verstehen, wie eine Person innehalten und so tun kann, als wäre nichts passiert.

Im Jahr 2003, kurz vor dem Einmarsch der USA in den Irak, studierte er am Caltech. Auf dem Campus gab es viele Kriegsgegner. Einige äußerten in Gesprächen ihre Bedenken; am nächsten Tag fand der Unterricht wie gewohnt statt. Er schrieb einen Artikel für die Studentenzeitung, in dem er seine Kommilitonen kritisierte. Er argumentierte, dass ihre Angst vor einem Krieg mit vielen Toten nicht nur bei Worten bleiben dürfe; es wäre zu spät, es zu bereuen, sobald der Krieg tatsächlich ausgebrochen sei.

Seiner Ansicht nach ist Zögern niemals Neutralität. Warten ist an sich schon eine Entscheidung.

Was dieser Zwanzigjährige am wenigsten ausstehen konnte, war das Warten.

Drei Jahre später, im Alter von dreiundzwanzig Jahren, starb sein Vater an Hepatitis C.

Zu dieser Zeit gab es fast keine Heilung für Hepatitis C. Die Standardbehandlung bestand in der Einnahme von Interferon über ein ganzes Jahr, was jedoch Fieber, Haarausfall und Depressionen verursachen konnte, und die Heilungsrate lag unter 50 %.

Im Dezember 2013 wurde ein neues Medikament zugelassen. Die Behandlungsdauer wurde auf zwölf Wochen verkürzt, die Heilungsrate lag bei 95 %.

Sein Vater erlebte ihn nicht mehr.

Nur sieben Jahre trennen uns.

Ein Sohn, der seinen Vater nicht retten konnte, verbrachte die nächsten zwanzig Jahre damit, die Wissenschaft zu immer schnelleren Fortschritten anzuspornen.

Nach dem Tod seines Vaters wechselte er von der theoretischen Physik zur Biophysik und erforschte in Princeton neuronale Schaltkreise in der Netzhaut. Da ihm die damaligen Instrumente zu langsam waren, beteiligte er sich an der Entwicklung neuer Sensoren.

Später ging er an die Stanford Medical School, um Krebs und Proteine zu erforschen. Je näher man einer Krankheit kommt, desto kleiner erscheint man sich selbst. Eine Krankheit umfasst Hunderte von Genen, Zehntausende von Proteinen und unzählige miteinander verbundene Signalwege. Forscher verbringen mitunter Jahre damit, ein einzelnes Glied in dieser Kette zu verstehen, doch sie wissen immer noch nicht, was passiert, wenn dieses Glied wieder in den gesamten Körper eingebracht wird.

Später beschrieb er, wie ihn die Komplexität beinahe zur Verzweiflung trieb.

Zu dieser Zeit rückte die KI in seinen Fokus; sie war ein Werkzeug, das die menschlichen Fähigkeiten erheblich erweitern konnte. Maschinen konnten zahlreiche wissenschaftliche Arbeiten lesen, große Datenmengen verarbeiten und gleichzeitig viele Möglichkeiten ausprobieren, wodurch die kognitive Arbeit ersetzt wurde, für die ursprünglich Hunderte oder Tausende von Forschern benötigt wurden.

Ausgehend von der Idee, dass „der Mensch zu unbedeutend ist“, schloss er, dass er etwas Größeres erschaffen und den Menschen wieder komprimieren müsse.

2014 verließ er die Biowissenschaften und schloss sich Baidus KI-Team im Silicon Valley an. Das Team erkannte schnell, dass die Leistung umso besser war, je größer das Modell, je mehr Daten und Rechenleistung zur Verfügung standen. Einige Jahre später wurde diese Erkenntnis als „Skalierungsgesetz“ zusammengefasst: Man kann zwar nicht vorhersagen, was die nächste Generation von Modellen lernen wird, aber man kann grob davon ausgehen, dass sie leistungsfähiger sein wird als die vorherige.

Intelligente Geräte scheinen erstmals in Massenproduktion wie Industrieprodukte hergestellt werden zu können. Leistungsstarke KI ist daher etwas, dessen Aufkommen früher oder später unausweichlich war.

Die verbleibenden Unterschiede bestehen lediglich darin, wie viele Daten, wie viele Chips, wie viel Strom und wie lange wir warten müssen.

Derjenige, der das Warten am meisten hasste, bewies mit eigenen Händen, dass der Weg zu der Antwort, die er suchte, tatsächlich existierte.

Lenkrad

Im Jahr 2016 trat Dario Amodei OpenAI bei.

In den darauffolgenden Jahren entwickelte sich das Sprachmodell rasant. Mit GPT-3 übergab OpenAI mehr als die Hälfte der Rechenleistung des Unternehmens an Dario, der das Modell um das Hundertfache skalierte. Die Ergebnisse waren noch erstaunlicher als erwartet: Es konnte Artikel schreiben, übersetzen, zusammenfassen und andere Aufgaben ausführen, die es selbstständig erlernt hatte, ohne dass es trainiert werden musste.

Mit zunehmendem Umfang steigt auch die Leistungsfähigkeit.

Er war überzeugt, dass dieser Weg zu allgemeiner Intelligenz führen würde. Und sobald die Möglichkeit akzeptiert wäre, dass Modelle eines Tages so intelligent werden könnten wie Menschen, wäre Sicherheit keine triviale Angelegenheit mehr.

Dann stieß er auf ein Problem. Dario war zwar für die Entwicklung des Modells verantwortlich, doch ihm wurde allmählich klar, dass die Entwicklung des Modells und die Entscheidung über dessen zukünftige Ausrichtung zwei völlig verschiedene Dinge waren. Wann das Modell veröffentlicht werden sollte, in welchem Umfang es zugänglich gemacht werden sollte, mit welchen Unternehmen man kooperieren sollte und wer die Entscheidungsgewalt hatte, lag nicht automatisch in seiner Verantwortung, nur weil er für das Training zuständig war.

OpenAI ist intern in zwei Gruppen gespalten. Die eine Gruppe möchte die Technologie schnellstmöglich weltweit verfügbar machen; die andere Gruppe befürchtet, dass die Führung des Unternehmens und die zugrunde liegenden Prinzipien wichtiger sein könnten als jedes einzelne technische Detail.

Welche Art von Person ist also qualifiziert, ein Unternehmen zu leiten, das hochentwickelte Intelligenz erzeugt?

Seine Antwort lautete, dass Führungskräfte ehrlich sein müssen, ihre Motive aufrichtig sein müssen und sie wirklich wollen müssen, dass die Welt ein besserer Ort wird.

Technologische Sicherheit hat sich schleichend zu einer Frage der Personenbeurteilung entwickelt. Diese Argumentation ist gleichermaßen gefährlich wie logisch. Die Gefahr liegt darin, dass sie alle komplexen Fragen auf die Vertrauenswürdigkeit einer Person reduziert. Dabei fehlt stets die entscheidende Frage: Wer entscheidet, ob eine Person vertrauenswürdig ist?

Bis 2020 war der Konflikt zwischen ihm und der OpenAI-Führung unüberbrückbar geworden. Im Dezember desselben Jahres verließ er OpenAI zusammen mit seiner Schwester Daniela, Jack Clark, Chris Olah und einigen Kollegen. Da Dario Pandas mochte, wurde diese kleine Gruppe intern als die „Panda-Fraktion“ bezeichnet.

Ein paar Monate später gründeten sie Anthropic. Anthropic bedeutet im Wörterbuch „mit Menschen verwandt“.

Diesmal hat Dario nicht vor, das Steuer jemand anderem zu überlassen.

Zwanzig Personen

Im Jahr 2021 war die Pandemie in San Francisco noch im Gange.

Anthropic ist ein relativ junges Unternehmen mit nur fünfzehn bis zwanzig Mitarbeitern. Die meisten Meetings finden per Zoom statt; einmal pro Woche trifft sich jeder mit einem Stuhl im Park. Beim Mittagessen diskutieren sie Modelle, Rechenleistung, Sicherheitsforschung und die zukünftige Ausrichtung des Unternehmens.

Weniger als zwanzig Menschen saßen auf dem Rasen in San Francisco, vielleicht mit einer halben Schachtel unfertigem Salat in der Hand, aber sie machten sich Sorgen um die Zukunft von acht Milliarden Menschen.

Das Gesetz der Skalierung besagt, dass die Zukunft unausweichlich ist. Da sie ohnehin kommen wird, muss jemand den Weg im Voraus bereiten. Die Formulierung „jemand muss“ ist die gesamte Legitimationsgrundlage.

Anthropics Ziel ist es, gleichzeitig hochmoderne Modelle zu entwickeln, zu erforschen, wie man sie verstehen und kontrollieren kann, und diese Sicherheitsmethoden dann zum Standard für andere Unternehmen zu machen.

Dario hat bei OpenAI seine Lektion gelernt. Er versteht, dass Sicherheitsdiskussionen von außen betrachtet nur denen helfen, die die Modelle tatsächlich kontrollieren. Egal wie eloquent man sich ausdrückt, es ist, als würde man am Ufer stehen und jemandem im Wasser das Schwimmen beibringen.

Du musst selbst ins Wasser gehen.

Das lässt Anthropic von Anfang an ziemlich ungeschickt erscheinen. Um die Gefahren des stärksten Modells zu erkennen, muss man zunächst das stärkste Modell besitzen; um Einfluss auf die Regulierung zu nehmen, muss man zunächst Einfluss in der Branche haben.

Infolgedessen geriet Anthropic schnell in den Kreislauf, dem alle innovativen Großmodellunternehmen nicht entkommen können: Kapitalbeschaffung, Kauf von Rechenleistung, Training von Modellen, Produkteinführung, Kundengewinnung und anschließende Nutzung der neuen Einnahmen und Bewertungen, um gegen mehr Rechenleistung einzutauschen.

Dario argumentiert, dass das Wachstum des Unternehmens dem Schutz der Welt diene. Investoren sind zudem bereit zu glauben, dass eine Investition in Anthropic eine Investition in ein verantwortungsvolleres KI-Unternehmen darstellt.

Die Brillanz dieses Arguments liegt darin, dass er umso moralischer erscheint, je mehr Geld er verdient; je höher der Unternehmenswert ist, desto stärker ist der Beweis dafür, dass er „die Welt schützt“.

Kommerzielle Interessen und die Mission der Zivilisation verstärken sich gegenseitig.

Dario gab die Richtung vor. Er verfasste einen ausführlichen Artikel über Zivilisation, Wissenschaft und die Zukunft der Menschheit. Seine Schwester Daniela war für die Umsetzung dieser ambitionierten Visionen verantwortlich und kümmerte sich um Rekrutierung, Teambildung und Mittelbeschaffung.

Ausgangspunkt des Unternehmens war ein gewagtes Urteil, das sich kaum widerlegen lässt:

Leistungsstarke KI kommt, und die Welt braucht ein vertrauenswürdigeres Unternehmen, das die Führung übernimmt.

„Vertrauenswürdiger“ lautet die Aussage des Unternehmens selbst.

Diese Erzählung verlieh Anthropic ein starkes Zusammengehörigkeitsgefühl. Diejenigen, die sich anschlossen, suchten nicht einfach nur nach einem besser bezahlten Job. Sie glaubten, etwas von großer Bedeutung für die menschliche Zivilisation zu tun.

Der erschreckendste Zustand, in dem sich ein Unternehmen befinden kann, ist der, in dem seine Mitarbeiter tatsächlich glauben, die Menschheit zu retten. Denn von diesem Moment an verwandelt sich jede Geschäftsexpansion automatisch in einen heiligen Krieg; jede abweichende Meinung wird automatisch als Verrat an der Menschheit gewertet.

In seinen Anfangsjahren wollte Anthropic beweisen, dass ein KI-Unternehmen vorsichtiger und verantwortungsvoller agieren konnte als andere. Dieser Wunsch war vermutlich aufrichtig.

Doch Aufrichtigkeit garantiert niemals Richtigkeit. Aufrichtige Menschen haben oft mehr Probleme als heuchlerische, wenn sie Fehler machen, weil sie nie innehalten und sich selbst fragen:

Was genau bedeutet es, verantwortungsbewusst zu sein?

Was gibt einem privaten Unternehmen das Recht, Entscheidungen für die ganze Welt zu treffen?

Herrscher

Frühe groß angelegte Modelltrainings basierten typischerweise auf einer großen Anzahl menschlicher Annotatoren, die die Antworten bewerteten. Die Menschen mussten zunächst beurteilen, welche Antworten besser waren, welche Inhalte schädlich waren und ob das Modell sie ablehnen sollte. Anschließend mussten sie diese Präferenzen an die Maschine zurückmelden.

Diese Methode ist zwar effektiv, aber auch umständlich. Die Annotatoren stammen aus verschiedenen Quellen und haben unterschiedliche Werte. Selbst die detailliertesten Regeln können nicht alle Situationen abdecken.

Anthropik entwickelte einen anderen Ansatz. Anstatt dem Modell wiederholt von Menschen die Antworten auf jede Frage vorzugeben, gab er ihm zunächst eine Reihe von Prinzipien vor. 2022 schlug Anthropik die „konstitutionelle KI“ vor. Die Methode funktioniert im Wesentlichen so: Zuerst generiert das Modell Antworten, dann identifiziert es anhand schriftlich festgelegter Prinzipien die Fehler in seinen Antworten, findet die Probleme und verbessert sie anschließend.

Diese „Verfassung“ wird immer umfangreicher. Sie muss Machtverhältnisse und Interessenkonflikte verstehen und Reife und Weisheit erkennen. Sie muss sogar ihre eigene Identität, Situation und ihr eigenes Wohlbefinden berücksichtigen und sich nicht bloß als wertloses Werkzeug betrachten.

Es prägt die Persönlichkeit.

Anthropic erklärt in seiner Satzung, dass dieses Dokument Claudes Verhalten unmittelbar prägt, die Unternehmensvorstellung von Claudes Werten und Charakter widerspiegelt und die „höchste Autorität“ für das Verständnis von Claudes Handeln darstellt. Historisch gesehen waren für solche Angelegenheiten die Kirche, Kaiser und politische Parteien zuständig. Heute ist es ein privates Unternehmen.

Wenn die Auswirkungen eines groß angelegten Modells auf die Welt nicht mehr nur ein einmaliger Konsum sind, dann wird das, was Claude ablehnt oder fördert, und wie er ein Land, einen Krieg oder ein politisches System beschreibt, Folgeprodukte beeinflussen und Teil des Weltverständnisses anderer werden.

Anthropic trifft seine Entscheidungen zwar immer noch in unternehmerischer Manier, doch die Auswirkungen dieser Entscheidungen ähneln zunehmend denen einer öffentlichen Institution, ohne dass eine solche Kontrolle durch eine öffentliche Institution erforderlich ist.

Nachdem Anthropic eine Verfassung für seine Modelle festgelegt hatte, begann das Unternehmen mit der Entwicklung von Branchenregeln. 2023 führte es seine „Richtlinie für verantwortungsvolles Skalieren“ ein. Ein Modell, das lediglich E-Mails verfassen kann, und eines, das biologische Waffen entwickeln und komplexe Cyberangriffe starten kann, lassen sich offensichtlich nicht gleich behandeln. Daher kategorisiert Anthropic seine Modelle in verschiedene Risikostufen. Je leistungsfähiger ein Modell ist, desto größer ist das potenzielle Risiko und desto strengere Sicherheitsmaßnahmen muss das Unternehmen implementieren.

Ein privates Unternehmen übernahm mehrere Rollen. Es stellte die Modelle her; nach deren Fertigstellung maß das Unternehmen deren Gefährdungsgrad; es legte die Standards für die Einstufung als Gefahr fest; es definierte auch die Grenzen, bis zu denen Gefahren verhindert werden sollten; und schließlich nutzte das Unternehmen diese Ergebnisse, um die Aufsichtsbehörden bei der Formulierung der Vorschriften zu beraten.

Er war sowohl Sportler als auch Schiedsrichter.

Anthropic hat diesen Aspekt ebenfalls berücksichtigt. Um zu verhindern, dass das Unternehmen vollständig von kommerziellen Interessen vereinnahmt wird, wurde ein Treuhandfonds für langfristige Interessen eingerichtet. Dieser Fonds, bestehend aus externen Mitgliedern ohne direkte wirtschaftliche Interessen am Unternehmen, soll sicherstellen, dass Anthropic neben der Rendite für die Aktionäre auch langfristige menschliche Interessen berücksichtigt. Gemäß der ursprünglichen Konzeption sollte der Fonds schrittweise die Befugnis erlangen, die Mehrheit der Direktoren zu ernennen und abzuberufen und so einzugreifen, wenn das Unternehmen von seiner Mission abweicht.

Aus Sicht der Unternehmensführung ist eine solche Struktur äußerst selten. Die meisten Startups sind bei der Kapitalbeschaffung damit beschäftigt, Investoren von ihrem schnellen Wachstum zu überzeugen. Anthropic hingegen ging den umgekehrten Weg und schuf eine Struktur, die zukünftige Investoren und das Management daran hindern sollte, ihre Sicherheitsversprechen aus Profitgier aufzugeben.

Es wäre unfair zu behaupten, das Ganze sei nur Show. Anthropic setzt sich mit dem Thema Macht sicherlich ernster auseinander als die meisten Technologieunternehmen und ist bereit, sich selbst Probleme einzuhandeln. Doch von Anfang bis Ende ging es dem Unternehmen stets darum, wie es diese Macht besser nutzen kann, nicht darum, ob es sie überhaupt besitzen sollte.

Ein Unternehmen, das mit einer Mission gegründet wurde, wird niemals fragen: „Warum existiere ich?“ Es wird nur fragen: „Wie kann ich besser existieren?“

Es beantwortete nicht die Frage „Wer hat dir die Macht gegeben?“, sondern verkündete lediglich, dass es, da es bereits die Macht besitze, plane, ein guter Mensch zu sein.

Zu diesem Zeitpunkt leitete Dario nicht mehr nur ein Unternehmen. Seine Sicherheitsphilosophie prägte seine Modelle und seine öffentliche Politik. Er begann zu diskutieren, welche Länder zuerst fortgeschrittene Geheimdienstinformationen erwerben sollten, welche politischen Systeme Schutz verdienten und wer die Reihenfolge der weltweiten Geheimdienstentwicklung bestimmen sollte.

Amerika sichert sich die Zukunft zuerst.

Im Jahr 2024 schrieb Dario Amodei „Machines of Loving Grace“.

Der Name stammt aus einem Gedicht. 1967 schrieb der Dichter Richard Brautigan am Caltech das Gedicht „All Watched Over by Machines of Loving Grace“:

Ein Gedicht über die Versöhnung von Maschinen und allem Leben. Er entlehnte den Titel, um eine der optimistischsten technologischen Prophezeiungen der Menschheitsgeschichte zu verfassen.

Leistungsstarke KI wird zu einem Forschungsteam aus unzähligen Spitzenwissenschaftlern, die Tag und Nacht wissenschaftliche Artikel lesen und Experimente entwerfen, um so jahrzehntelangen wissenschaftlichen Fortschritt in nur wenigen Jahren zu erzielen. Krebs, Infektionskrankheiten und Erbkrankheiten könnten in großem Umfang besiegt werden. Die Menschheit könnte die Ursachen von Depressionen, Angstzuständen und Suchterkrankungen wirklich verstehen. Die Lebenserwartung könnte erhöht und arme Länder könnten die Industrialisierung überspringen.

Er wagte eine sehr kühne Prognose: Wenn sich leistungsstarke KI reibungslos entwickelt, könnten die biomedizinischen Fortschritte der nächsten 50 bis 100 Jahre innerhalb von 5 bis 10 Jahren abgeschlossen sein.

Es fällt schwer, nicht an seinen Vater zu denken.

Sein Sohn wartete sieben Jahre auf die Zulassung eines neuen Medikaments, das anderen das Leben hätte retten können, doch für ihn selbst war es zu spät. Er hofft, dass zukünftige Generationen nicht so lange warten müssen.

In seiner idealen Welt glaubt er fest daran, dass diese Technologie Krankheiten, Leid und Tod verringern kann. Er erörterte sogar konkret, wie sichergestellt werden kann, dass die Vorteile der KI nicht nur wohlhabenden Ländern zugutekommen; er hofft, dass KI zur Entwicklung des globalen Südens beitragen und möglichst vielen Menschen weltweit zugutekommen kann.

Doch als er anfing, darüber zu sprechen, wie man diese Zukunft erreichen kann, waren die Dinge nicht mehr so allgemeingültig.

Er ist überzeugt, dass Nationen sich einen Vorteil verschaffen müssen, sobald leistungsstarke KI verfügbar ist. Dieser Vorteil kann nicht einfach dadurch erreicht werden, dass ein einzelnes Unternehmen bessere Produkte anbietet oder in Rankings besser abschneidet. Er muss vielmehr auf Stärken in den Bereichen Chips, Rechenleistung, Energie, Lieferketten, militärische Fähigkeiten und internationale Allianzen beruhen.

Die Vereinigten Staaten und ihre Verbündeten müssen fortschrittlichere Halbleiter beschaffen und größere Rechenzentren aufbauen, während sie gleichzeitig strategische Konkurrenten daran hindern, die für das Training modernster Modelle benötigten Chips zu erhalten. Sobald leistungsstarke KI tatsächlich verfügbar ist, müssen sie diese nutzen, um ihre militärischen und wirtschaftlichen Vorteile auszubauen und eine Position zu erlangen, die andere Länder nicht so leicht angreifen können.

Dann war es Zeit zum Teilen.

Die Medikamente müssen verteilt und die Chips gesichert werden. Sein Versprechen, „dafür zukünftige Generationen nicht warten zu lassen“, bedeutet in Wirklichkeit nur, „dafür zu sorgen, dass diejenigen, die die Kriterien erfüllen, nicht warten müssen“. Und wer die Kriterien erfüllt, entscheidet er selbst.

Er bezeichnete diesen Zustand sogar als „das ewige 1991“. 1991 zerbrach die Sowjetunion, der Kalte Krieg endete und die Vereinigten Staaten und ihre Verbündeten erlangten eine überwältigende Überlegenheit. Er hofft, dass leistungsstarke KI einen solchen historischen Moment nachbilden kann.

Bitte beachten Sie die Bedeutung dieser Analogie. Eine Technologie, die vorgibt, der gesamten Menschheit zu nutzen, wird idealerweise als die umfassendste unipolare Hegemonie in der Geschichte der Menschheit vorgestellt.

„Die Welt gehört allen“ – diese vier Figuren sind wunderschön formuliert. Doch „die Welt“ gehört den USA, während „allen gehören“ dem Anthropozentrismus zuzuordnen ist.

Dann tauchte DeepSeek auf. Chinesische Unternehmen entwickelten mit vergleichsweise begrenzten Ressourcen konkurrenzfähige Modelle. Dario ist überzeugt, dass dies Chinas herausragende Forschungs- und Entwicklungskompetenz eindrucksvoll unter Beweis stellt. Sobald sie über genügend fortschrittliche Chips verfügen, könnten chinesische Unternehmen in der Lage sein, die leistungsstärksten Modelle der Welt zu entwickeln.

Deshalb können wir ihnen den Chip auf keinen Fall geben.

Je stärker der Gegner, desto mehr rechtfertigt dies die Blockade; beweist der Gegner seine Stärke, wird dies zum Grund für die Blockade. Diese Logik gilt immer, denn es ist ein Teufelskreis.

Er unterteilt die Zukunft in zwei Szenarien. Das eine ist eine bipolare Welt, in der beide Seiten extrem leistungsstarke Modelle entwickeln können, wodurch sich das intelligente Wettrüsten zu einem neuen Kalten Krieg ausweitet. Das andere ist eine unipolare Welt, in der die Vereinigten Staaten und ihre Verbündeten den Großteil der hochentwickelten Rechenleistung kontrollieren und der Westen seine Führungsposition der letzten Jahre nutzt, um einen technologischen, wirtschaftlichen und militärischen Vorsprung zu erzielen und diesen anschließend zu festigen.

Er sehnte sich ganz offensichtlich nach der zweiten Zukunft. Alles Gerede vom Nutzen für die Menschheit, vom Ende des Wartens, von Maschinen, die sich mit allem versöhnen, war angesichts der „ewigen Unipolarität“ nur ein Vorspiel.

Er sprach sich einmal öffentlich gegen eine Darstellung aus, in der er sagte, ihm missfalle die Art und Weise, wie sich Gründer von KI-Unternehmen als Propheten darstellten, die die Menschheit zur Erlösung führten, und er warnte davor, dass einige wenige Unternehmen ihre technologischen Vorteile nutzen könnten, um einseitig die Zukunft aller zu gestalten.

Er widersetzte sich dem Propheten. Aber was er tat, war dasselbe, was der Prophet getan hatte.

Er sah alle Gefahren außer der Gefahr für sich selbst.

Drehen wir die Uhr zurück auf Januar 2026, in die „Jugendzeit der Technologie“.

In diesem Artikel hat Dario Amodei fast alle Kritikpunkte gegen ihn und Anthropic niedergeschrieben.

Er räumte ein, dass innovative KI-Unternehmen eine Macht erlangen, die in der Geschichte privater Unternehmen selten zu beobachten war. Er sagte sogar unverblümt, dass KI-Unternehmen ihre Produkte nutzen könnten, um die politischen Ansichten der Nutzer zu beeinflussen oder sie gar einer Gehirnwäsche zu unterziehen. Er rief die Öffentlichkeit dazu auf, KI-Unternehmen genau im Auge zu behalten, und die Regierungen, wachsam zu sein, wenn diese Unternehmen der Staatsmacht zu nahe kommen.

Er befürchtet zudem, dass KI die Konzentration von Reichtum und politischer Macht weiter vorantreiben wird. Da einige wenige Unternehmen Intelligenz, Reichtum und Informationen kontrollieren, wird der Einfluss der Bürger auf Wirtschaft und Politik allmählich abnehmen.

Er erkannte all diese Gefahren. Er beschrieb sie klar und präzise. Nur wenige Menschen in Machtpositionen würden so offen darüber sprechen, wie gefährlich ihre Position ist.

Gerade weil es so gut geschrieben ist, müssen wir uns fragen: Und was dann?

Jedes Mal, wenn er einen Lösungsvorschlag unterbreitet, kehrt er letztlich zum selben Kurs zurück. Indem er seine Lösungsansätze konsequent verfolgt, gewinnt Anthropic stets an Macht. Je gefährlicher das Modell, desto wichtiger ist es für Anthropic, an vorderster Front zu bleiben; je weniger technisch versiert Regierungen sind, desto mehr verlassen sie sich auf Anthropics Urteilsvermögen; je leichter die Öffentlichkeit von dem Modell beeinflusst werden kann, desto deutlicher muss Anthropic dessen Werte artikulieren; je weniger vertrauenswürdig andere Länder sind, desto mehr Kontrolle sollten die USA und ihre KI-Unternehmen über Chips und Rechenleistung ausüben.

Er gab zu, dass für jede Krankheit das gleiche Rezept ausgestellt wurde: Anthropologikum.

Er war überzeugt, absolut überzeugt, dass diese Technologie zu gefährlich war, um sie einfach irgendjemandem anzuvertrauen. Er glaubte auch, diese Gefahr früher erkannt zu haben als die meisten anderen.

Manchmal ist ein aufrichtiger Mensch der erste, den man täuscht, besonders wenn die Vorteile der Selbsttäuschung so groß sind.

Er schien aufrichtig davon überzeugt, dass die Technologie zu gefährlich sei, um sie einfach so in die Hände von irgendjemandem zu geben. Er glaubte auch fest daran, diese Gefahr früher als die meisten anderen erkannt zu haben.

Diese beiden Sätze bilden zusammen eine vollständige Selbstermächtigung. Er muss sich nie zum Beschützer der Menschheit erklären. Er muss lediglich diejenigen eliminieren, die er für unzuverlässig hält: Der Markt taugt nichts, die Öffentlichkeit taugt nichts, autoritäre Staaten taugen nichts, andere Unternehmen sind nicht vorsichtig genug. Sind alle eliminiert, ist ironischerweise derjenige, der am besten geeignet ist, das Steuer in der Hand zu halten, der Anthropologe selbst.

Der Endpunkt des Ausschlussverfahrens ist immer er selbst.

Er glaubt nicht, dass irgendjemand das Recht hat, über die Zukunft der Menschheit zu entscheiden.

Also beschloss er, es selbst zu tun.

Das letzte private Unternehmen

Am 14. August 2026 stammte ein Satz aus einem Podcast.

„Bei Anthropic herrscht großes Selbstvertrauen. Mehrere mir vertraute Personen haben mir erzählt, dass Dario einmal gesagt habe: Anthropic könnte eines Tages das einzige Unternehmen der Welt in Privatbesitz sein.“

Das sagte Gavin Baker, ein Hedgefonds-Manager, der in SpaceX investiert hat. Er fügte hinzu, dass es in dieser Vision nur die Anthropozenter und dann die Regierungen gäbe. Das sei alles.

Innerhalb eines Tages verbreitete sich der Satz in den sozialen Medien wie ein Lauffeuer.

„Das ist arrogant“, sagte David Sacks, ehemaliger Berater des Weißen Hauses für KI und Kryptowährungen und derzeitiger Co-Vorsitzender des Technologieberatergremiums des Präsidenten. „Das ist ein bisschen wie bei SBF.“

Am darauffolgenden Abend veröffentlichte Dario als Reaktion darauf zwei längere Beiträge auf X.

Der erste Artikel befasst sich mit Regulierung. Er argumentiert, dass die Unterscheidung zwischen „zentralisiert oder dezentralisiert“ eine falsche Wahl sei; ein wirklich gutes System dezentralisiere die Macht.

„Das formale Gerichtssystem mag manchmal starr und elitär erscheinen, aber es ist besser in der Lage, die Schwachen zu schützen als die Alternative – Lynchjustiz. Im besten Fall kann eine Institution Ideen stärken, anstatt Einzelpersonen.“

Der zweite Artikel behandelt die Verbreitung von Informationen. Er stellt fest, dass die negative Haltung der Öffentlichkeit gegenüber KI auf einer Vertrauenskrise beruht. Anschließend verfasst er den wichtigsten Abschnitt seiner beiden langen Artikel:

„Ich denke, die treffendste Kritik an KI-Unternehmen, einschließlich Anthropic, lautet bisher, dass wir unser großes Versprechen, der Welt zu nutzen, nicht eingelöst haben. Das ist allein unsere Schuld.“

„Der wirklich wirksame Ansatz besteht darin, Krebs tatsächlich zu heilen.“

Keiner seiner beiden ausführlichen Artikel ging direkt auf das Gerücht ein. Er nutzte eine berechtigte Frage, um einer anderen auszuweichen.

Er sagte, dass er mit der Heilung von Krebs den Einsatz von KI zur Förderung des medizinischen Fortschritts meine, um neue Medikamente schneller verfügbar zu machen als bei jeder anderen Krankheit.

Dies ist für jemanden, der im Jahr 2006 gestorben ist. Diese Person wartete auf eine Flasche Medizin, wartete lange, aber sie kam nie an.

Von da an glaubte er, Langsamkeit sei eine Sünde. Wer Langsamkeit für eine Sünde hält, sieht in Schnelligkeit das einzige Gegenmittel. Ein Gegenmittel ist an sich gut. Doch er wollte, dass alle glaubten, nur er könne dieses Gegenmittel herstellen.

1986 veröffentlichte der britische Autor Alan Moore den Comic *The Guardians*, der später verfilmt wurde. Eine der Figuren im Film ist Adrian Witt, bekannt als der Pharao, der von sich behauptete, der intelligenteste Mensch der Welt zu sein.

Er sah die drohende Katastrophe voraus, noch vor allen anderen. Atomkrieg, Apokalypse, die Menschheit, die sich selbst vernichtet. Darauf hatte er sich sein halbes Leben lang vorbereitet. Dann erkannte er, dass bloße Warnungen nutzlos waren.

Er persönlich löste also die Katastrophe aus. Über Nacht wurden mehrere Städte von der Landkarte getilgt.

Er glaubte, dass die beiden Supermächte erst dann aufhören würden zu kämpfen, wenn die Menschheit die Zerstörung miterlebte, und erst dann könne die Welt Frieden erreichen.

Er war der Mörder, aber auch der Erlöser, für den er sich selbst hielt.

Am Ende lief alles so, wie er es sich gewünscht hatte. Er fragte den blauen, fast allwissenden Dr. Manhattan:

„Das Ende? Adrian, nichts ist vorbei. Nichts wird jemals vorbei sein.“