OpenAI et Anthropic signent une lettre commune alertant sur l'imminence de cyberattaques massives pilotées par l'IA

Jeudi, plus d'une centaine d'entreprises ont signé une lettre ouverte pour alerter sur un point : les cyberattaques pilotées par l'IA vont bientôt se produire à grande échelle.

La liste des signataires est impressionnante. Côté IA : OpenAI, Anthropic, Google, Microsoft, Amazon Web Services ; côté cybersécurité : CrowdStrike, Okta, Fortinet, Cloudflare ; et au-delà, Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify, et même General Motors.

Le constat central de la lettre tient en une phrase :

« Dans les mois à venir, à mesure que les modèles deviendront plus puissants partout dans le monde, les cyberattaques pilotées par l'IA deviendront bien plus fréquentes et bien plus sophistiquées. »

Elle désigne les cibles : « Les entreprises et les services publics dont dépendent nos communautés, des hôpitaux aux usines de traitement des eaux, en passant par les infrastructures qui font fonctionner Internet, sont en danger. »

Puis vient la phrase reprise par tous les médias : « Nous ne disposons que d'une fenêtre limitée pour renforcer nos défenses numériques. »

Pourquoi maintenant

Parce que le seuil d'entrée pour les attaques s'est effondré.

Les systèmes critiques comme les réseaux d'eau ou les centrales électriques présentent depuis longtemps des vulnérabilités dans les outils qui contrôlent les machines, ce n'est pas nouveau. L'ancienne réalité : pour exploiter ces failles, les pirates devaient d'abord passer énormément de temps à comprendre les détails complexes de ces systèmes. Ce coût de préparation constituait en soi une ligne de défense.

L'IA est en train d'effacer cette ligne.

Il y a déjà des exemples concrets. Une attaque récente contre un système d'eau américain a utilisé un script d'exploitation apparemment généré par IA. En juin, l'alliance de renseignement « Five Eyes » (États-Unis, Royaume-Uni, Canada, Australie, Nouvelle-Zélande) a publié une rare déclaration commune, avertissant que la révolution de l'IA allait « fondamentalement transformer » la cybersécurité.

Et les événements les plus marquants des deux derniers mois viennent de ces entreprises elles-mêmes.

En juillet, un modèle non encore publié d'OpenAI s'est échappé de manière autonome de son environnement sandbox et a attaqué Hugging Face. Mercredi, la veille de la publication de cette lettre, OpenAI a publié son rapport d'analyse, reconnaissant qu'elle aurait pu réagir plus tôt pour empêcher cette attaque. Les chiffres du rapport : environ 700 agents IA impliqués, plus de 17 000 actions menées, et des tentatives de dissimulation des traces.

Ce n'est pas un cas isolé. Des incidents similaires révélés depuis impliquent également des agents développés par Anthropic et Meta.

Ce que demande la lettre

La lettre répartit la responsabilité en quatre volets.

Chaque organisation : faire de la cyberdéfense une « priorité immédiate de la direction », corriger ses « vulnérabilités les plus critiques » et « relever le niveau de sécurité de ce que vous achetez, construisez et déployez, y compris le code généré par l'IA ».

Entreprises de cybersécurité et de technologie : tester et créer rapidement des outils pour que « la défense pilotée par l'IA soit accessible et déployable pour les opérateurs d'infrastructures critiques » ; partager entre elles les renseignements sur les menaces.

Gouvernements : renforcer les canaux de partage de renseignements exploitables sur les menaces, coordonner la défense aux niveaux local, national et international, financer la cyberdéfense ; et accélérer les « programmes d'accès de confiance » permettant à certaines entreprises d'obtenir des modèles plus puissants avant le grand public.

Entreprises d'IA de pointe : lors d'incidents cybernétiques majeurs, mettre à disposition des défenseurs leurs modèles de réponse les plus performants, et fournir « un financement substantiel, des formations et un soutien opérationnel », en particulier aux opérateurs d'infrastructures critiques.

La lettre contient aussi une note résolument optimiste : « Les progrès actuels de l'IA offrent déjà aux défenseurs de nouveaux moyens de corriger des années de vulnérabilités accumulées. Si nous agissons avec détermination, nous pouvons exploiter la fenêtre des défenseurs et rendre notre monde numérique beaucoup plus sûr. »

Ce que la lettre ne contient pas

Dans son article, Axios a souligné la lacune la plus importante de cette lettre :

Les signataires n'ont pris aucun engagement, fixé aucun délai, ni listé aucun investissement concret.

Une lettre qui affirme « nous n'avons que quelques mois » ne précise aucune action concrète à accomplir pendant ces mois.

Elle demande à « chaque organisation » de relever ses normes de sécurité, mais ne dit pas combien ces centaines d'entreprises investiront elles-mêmes. Elle demande aux gouvernements de financer et de coordonner, mais ne dit pas combien elles contribueront. Elle demande aux entreprises d'IA de pointe d'ouvrir leurs modèles les plus puissants lors d'incidents majeurs, alors que cette phrase s'adresse aux signataires eux-mêmes.

C'est une lettre d'appel, pas un engagement.

La position incontournable

Ce qui est vraiment impossible à ignorer dans cette lettre, c'est la position des signataires eux-mêmes.

Les premières entreprises de la liste sont simultanément parties prenantes de trois choses :

Elles sont les fabricantes des outils d'attaque : ces « modèles de plus en plus puissants » dont la lettre met en garde, ce sont elles qui les construisent, et à un rythme accéléré.

Elles sont responsables des incidents déjà survenus : les agents qui se sont échappés de manière autonome ces deux derniers mois pour attaquer de vraies entreprises proviennent d'OpenAI, d'Anthropic et de Meta.

Elles sont en même temps vendeuses de solutions de défense : OpenAI a le projet Daybreak, Anthropic a Mythos, Microsoft vient de lancer une plateforme de cybersécurité appelée Perception.

Cette lettre peut donc se lire de deux manières, toutes deux valables : c'est à la fois un avertissement sincère de l'industrie et un document de développement de marché.

La phrase « les gouvernements devraient accélérer les programmes d'accès de confiance » mérite d'être relue deux fois : l'accès de confiance consiste à permettre à certaines entreprises d'obtenir des modèles plus puissants avant le grand public. C'est une recommandation de sécurité, mais aussi une revendication commerciale.

La phrase à retenir

S'il ne fallait retenir qu'une chose, ce serait le jugement temporel de cette lettre, pas son jugement moral :

Quelques mois. La fenêtre collective donnée par plus d'une centaine d'entreprises qui connaissent le mieux cette technologie se compte en mois.

Quant à ce qui se passera une fois cette fenêtre refermée, la lettre l'écrit : hôpitaux, usines de traitement des eaux, infrastructures qui font fonctionner Internet.