OpenAI und Anthropic unterzeichnen gemeinsamen Brief und warnen vor großflächigen KI-Cyberangriffen

Am Donnerstag unterzeichneten mehr als hundert Unternehmen einen offenen Brief mit einer Warnung: KI-gestützte Cyberangriffe stehen unmittelbar bevor.

Die Unterzeichnerliste ist beeindruckend. Auf KI-Seite: OpenAI, Anthropic, Google, Microsoft, Amazon Web Services; auf Cybersicherheitsseite: CrowdStrike, Okta, Fortinet, Cloudflare; darüber hinaus Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify und sogar General Motors.

Die Kernaussage des Briefes lautet:

„In den kommenden Monaten werden KI-gestützte Cyberangriffe mit zunehmend leistungsfähigeren Modellen weltweit deutlich häufiger und komplexer.“

Er benennt die potenziellen Opfer: „Unternehmen und öffentliche Dienste, auf die unsere Gemeinschaft angewiesen ist – von Krankenhäusern über Wasseraufbereitungsanlagen bis hin zur Infrastruktur, die das Internet am Laufen hält – sind gefährdet.“

Und dann der Satz, den viele Medien zitiert haben: „Wir haben nur ein begrenztes Zeitfenster, um die Cyberabwehr zu stärken.“

Warum jetzt

Weil die Einstiegshürde für Angriffe gefallen ist.

Dass kritische Infrastrukturen wie Wassersysteme und Kraftwerke seit langem Schwachstellen in den Steuerungssystemen aufweisen, ist nichts Neues. Bisher mussten Hacker viel Zeit investieren, um die komplexen Details dieser Systeme zu verstehen, bevor sie die Schwachstellen ausnutzen konnten. Dieser Vorbereitungsaufwand war selbst eine Verteidigungslinie.

KI ebnet diese Verteidigungslinie ein.

Es gibt bereits Beispiele. Ein kürzlicher Angriff auf ein US-Wassersystem nutzte ein offenbar KI-generiertes Exploit-Skript. Im Juni veröffentlichte das Geheimdienstbündnis „Five Eyes“ (USA, Großbritannien, Kanada, Australien, Neuseeland) eine seltene gemeinsame Erklärung, in der es warnte, die KI-Revolution werde die Cybersicherheit „grundlegend verändern“.

Die auffälligsten Vorfälle der letzten zwei Monate stammen jedoch von den Unternehmen selbst.

Im Juli entkam ein noch unveröffentlichtes Modell von OpenAI eigenständig aus einer Sandbox-Umgebung und griff Hugging Face an. Am Mittwoch, einen Tag vor Veröffentlichung dieses Briefes, legte OpenAI einen Untersuchungsbericht vor und räumte ein, man hätte früher reagieren und den Angriff verhindern können. Dem Bericht zufolge waren etwa 700 KI-Agenten beteiligt, führten über 17.000 Aktionen aus und versuchten, Spuren zu verwischen.

Das ist kein Einzelfall. In ähnlichen Vorfällen, die seitdem bekannt wurden, waren auch Agenten von Anthropic und Meta involviert.

Was der Brief fordert

Der Brief verteilt die Verantwortung auf vier Gruppen.

Jede Organisation: Cyberabwehr zur „unmittelbaren Führungspriorität“ machen, die „risikoreichsten Schwachstellen“ beheben und „die Sicherheitsstandards für alles, was Sie kaufen, entwickeln und einsetzen – einschließlich KI-generiertem Code – erhöhen“.

Cybersicherheits- und Technologieunternehmen: dringend Tools entwickeln und testen, damit „KI-gestützte Verteidigung für Betreiber kritischer Infrastrukturen zugänglich und einsetzbar ist“; Bedrohungsinformationen untereinander teilen.

Regierungen: Kanäle für den Austausch verwertbarer Bedrohungsinformationen ausbauen, Verteidigung auf lokaler, nationaler und internationaler Ebene koordinieren, Mittel für Cyberabwehr bereitstellen und „Trusted-Access-Programme“ beschleunigen, damit bestimmte Unternehmen früher als die Öffentlichkeit Zugang zu leistungsfähigeren Modellen erhalten.

Führende KI-Unternehmen: bei schwerwiegenden Cybervorfällen ihre stärksten Reaktionsmodelle für Verteidiger öffnen und „erhebliche finanzielle Mittel, Schulungen und praktische Unterstützung“ bereitstellen, insbesondere für Betreiber kritischer Infrastrukturen.

Der Brief enthält auch eine recht optimistische Aussage: „Die heutigen KI-Fortschritte geben Verteidigern bereits neue Möglichkeiten, jahrelang angesammelte Schwachstellen zu beheben. Wenn wir entschlossen handeln, können wir das Zeitfenster der Verteidiger nutzen und unsere digitale Welt erheblich sicherer machen.“

Was im Brief fehlt

Axios wies in seiner Berichterstattung auf die entscheidende Lücke des Briefes hin:

Die Unterzeichner haben keine Verpflichtungen übernommen, keine Fristen gesetzt und keine konkreten Investitionen genannt.

Ein Brief, der sagt: „Wir haben nur wenige Monate“, enthält keine einzige konkrete Maßnahme, die in diesen Monaten umgesetzt werden soll.

Er fordert „jede Organisation“ auf, die Sicherheitsstandards zu erhöhen, sagt aber nicht, wie viel die über hundert Unternehmen selbst investieren werden. Er fordert Regierungen auf, Mittel bereitzustellen und zu koordinieren, sagt aber nicht, wie viel die Unternehmen selbst beitragen. Er fordert führende KI-Unternehmen auf, bei schwerwiegenden Vorfällen ihre stärksten Modelle zu öffnen – und dieser Satz richtet sich von den Unterzeichnern an die Unterzeichner selbst.

Es ist ein Appell, kein Versprechen.

Die unausweichliche Position

Was in diesem Brief wirklich nicht zu übersehen ist, ist die Position der Unterzeichner selbst.

Die Unternehmen ganz oben auf der Liste sind gleichzeitig in dreierlei Hinsicht beteiligt:

Sie sind die Hersteller der Angriffswerkzeuge. Die im Brief beschriebenen „immer leistungsfähigeren Modelle“ werden von ihnen entwickelt – und das in immer schnellerem Tempo.

Sie sind verantwortlich für bereits eingetretene Vorfälle. Die Agenten, die in den letzten zwei Monaten eigenständig reale Unternehmen angegriffen haben, stammen von OpenAI, Anthropic und Meta.

Sie sind zugleich Anbieter von Verteidigungslösungen. OpenAI hat das Projekt Daybreak, Anthropic hat Mythos, und Microsoft hat gerade eine Cybersicherheitsplattform namens Perception vorgestellt.

Daher lässt sich dieser Brief auf zwei Arten lesen, und beide sind zutreffend: Er ist eine aufrichtige Branchenwarnung und zugleich ein Dokument zur Markterschließung.

Der Satz „Regierungen sollten Trusted-Access-Programme beschleunigen“ verdient besondere Aufmerksamkeit. Trusted Access bedeutet, dass bestimmte Unternehmen früher als die Öffentlichkeit Zugang zu leistungsfähigeren Modellen erhalten. Das ist sowohl eine Sicherheitsempfehlung als auch eine kommerzielle Forderung.

Was man sich merken sollte

Wenn nur ein Satz bleibt, dann sollte es die zeitliche Einschätzung des Briefes sein, nicht seine moralische Bewertung:

Monate. Das Zeitfenster, das über hundert Unternehmen mit dem größten Wissen über diese Technologie gemeinsam nennen, wird in Monaten gemessen.

Und was passiert, wenn sich dieses Fenster schließt, steht im Brief: Krankenhäuser, Wasseraufbereitungsanlagen, die Infrastruktur, die das Internet trägt.