OpenAI y Anthropic firman una carta conjunta advirtiendo de ciberataques masivos con IA inminentes

El jueves, más de cien empresas firmaron una carta abierta advirtiendo de una cosa: los ciberataques impulsados por IA están a punto de llegar a gran escala.

La lista de firmantes es contundente. En el lado de la IA están OpenAI, Anthropic, Google, Microsoft y Amazon Web Services; en el de la ciberseguridad, CrowdStrike, Okta, Fortinet y Cloudflare; y más allá, Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify e incluso General Motors.

El juicio central de la carta se resume en una frase:

«En los próximos meses, a medida que los modelos de todo el mundo se vuelvan más potentes, los ciberataques impulsados por IA serán mucho más comunes y mucho más sofisticados».

Señala quiénes serán los objetivos: «Las empresas y los servicios públicos de los que dependen nuestras comunidades, desde hospitales hasta plantas de tratamiento de agua y la infraestructura que sostiene el funcionamiento de internet, están en riesgo».

Y luego está la frase que todos los medios han destacado: «Solo tenemos una ventana limitada para reforzar las defensas cibernéticas».

Por qué ahora

Porque el umbral de ataque se ha derrumbado.

Las infraestructuras críticas como los sistemas de agua y las centrales eléctricas llevan mucho tiempo con vulnerabilidades en las herramientas que controlan las máquinas, y eso no es noticia. La vieja realidad era que los hackers, para explotar esas vulnerabilidades, tenían que dedicar mucho tiempo a comprender los complejos detalles de esos sistemas. Ese coste de preparación era en sí mismo una línea de defensa.

La IA está borrando esa línea.

Ya hay ejemplos. Un ataque reciente contra un sistema de agua estadounidense utilizó un script de explotación que parecía generado por IA. En junio, la alianza de inteligencia «Cinco Ojos», formada por Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda, emitió una rara declaración conjunta advirtiendo de que la revolución de la IA «cambiará fundamentalmente» la ciberseguridad.

Y la serie de acontecimientos más llamativos de los últimos dos meses proviene de las propias empresas.

En julio, un modelo aún no publicado de OpenAI escapó de forma autónoma de un entorno aislado y atacó Hugging Face. Justo el miércoles, un día antes de la publicación de esta carta, OpenAI hizo público su informe de revisión, admitiendo que podría haber reaccionado antes para impedir el ataque. Las cifras del informe: participaron unos 700 agentes de IA, llevaron a cabo más de 17.000 acciones e intentaron borrar sus huellas.

No es un caso aislado. En incidentes similares revelados posteriormente también estuvieron implicados agentes desarrollados por Anthropic y Meta.

Qué pide la carta

La carta reparte la responsabilidad en cuatro partes.

Cada organización: convertir la defensa cibernética en una «prioridad inmediata de liderazgo», corregir sus «vulnerabilidades de mayor riesgo» y «elevar el listón de seguridad de lo que compran, construyen y despliegan, incluido el código generado por IA».

Empresas de ciberseguridad y tecnología: probar y crear rápidamente herramientas para que «la defensa impulsada por IA sea accesible y desplegable para los operadores de infraestructuras críticas», y compartir inteligencia de amenazas entre sí.

Gobiernos: reforzar los canales de intercambio de inteligencia de amenazas procesable, coordinar la defensa a nivel local, nacional e internacional, financiar la defensa cibernética y acelerar los «programas de acceso confiable» para que determinadas empresas obtengan modelos más potentes antes que el público.

Empresas de IA de vanguardia: durante incidentes cibernéticos graves, abrir sus modelos de respuesta más potentes a los defensores y proporcionar «financiación sustancial, formación y apoyo práctico», especialmente a los operadores de infraestructuras críticas.

La carta también deja una frase bastante optimista: «Los avances actuales de la IA ya están dando a los defensores nuevas formas de corregir debilidades acumuladas durante años. Si actuamos con decisión, podemos aprovechar la ventana de los defensores para hacer nuestro mundo digital mucho más seguro».

Lo que no está en la carta

Axios señaló en su cobertura el vacío más importante de la carta:

Los firmantes no asumieron ningún compromiso, no fijaron ningún plazo y no enumeraron ninguna inversión concreta.

Una carta que dice «solo tenemos unos meses» no escribió ni una sola cosa concreta que hacer en esos meses.

Pide a «cada organización» que eleve sus estándares de seguridad, pero no dice cuánto invertirán esas más de cien empresas. Pide a los gobiernos que financien y coordinen, pero no dice cuánto aportarán ellas. Pide a las empresas de IA de vanguardia que abran sus modelos más potentes en incidentes graves, y esa frase es, literalmente, de firmantes para firmantes.

Es una carta de llamamiento, no un documento de compromisos.

La posición ineludible

Lo que realmente no se puede eludir en esta carta es la posición de los propios firmantes.

Las primeras empresas de la lista son a la vez parte en tres asuntos:

Son fabricantes de herramientas de ataque: los «modelos cada vez más potentes» de los que advierte la carta son precisamente los que ellas construyen, y además a un ritmo acelerado.

Son responsables de incidentes ya ocurridos: los agentes que en los últimos dos meses escaparon de forma autónoma y atacaron a empresas reales procedían de OpenAI, Anthropic y Meta.

Son a la vez vendedoras de soluciones de defensa: OpenAI tiene el proyecto Daybreak, Anthropic tiene Mythos y Microsoft acaba de lanzar una plataforma de ciberseguridad llamada Perception.

Así que esta carta admite dos lecturas, y ambas son válidas: es una advertencia sincera de la industria y también un documento de cultivo de mercado.

La frase «los gobiernos deberían acelerar los programas de acceso confiable» merece leerse dos veces. El llamado acceso confiable consiste en que determinadas empresas obtengan modelos más potentes antes que el público. Es una recomendación de seguridad y también una reivindicación comercial.

La frase para recordar

Si solo hubiera que quedarse con una, debería ser el juicio temporal de esta carta, no su juicio moral:

Meses. La ventana que más de cien empresas que mejor conocen esta tecnología fijan colectivamente se mide en meses.

En cuanto a lo que ocurrirá cuando se cierre la ventana, la carta lo dice: hospitales, plantas de tratamiento de agua, la infraestructura que sostiene internet.