Anthropic reporta un acceso indebido a su IA avanzada Mythos: ¿qué riesgos implica?

Un grupo de usuarios accedió de forma indebida al nuevo modelo de IA, elevando las alarmas en Ciberseguridad.

Frente a este escenario, Anthropic optó por una respuesta colaborativa. El Proyecto Glasswing reúne a algunos de los principales actores del sector tecnológico y financiero, entre ellos Amazon Web Services, Apple, Microsoft, Google, NVIDIA y JPMorgan Chase, además de organizaciones como la Linux Foundation.

Anthropic reconoció la apertura de una investigación interna tras detectar un acceso no autorizado a su modelo avanzado Mythos. En detalle, la herramienta - anunciada por la compañía casi dos semanas atrás - despertó la las alertas en el mundo de la Inteligencia Artificial, luego de su propia desarrolladora lo calificara como un recurso sensible que puede tornarse catastrófico si cae en manos de actores maliciosos.

El incidente se produce en un contexto donde la empresa decidió restringir el despliegue inicial de Mythos a un grupo reducido de unas 40 grandes tecnológicas, con el objetivo de que pudieran identificar y corregir fallas de ciberseguridad antes de una eventual liberación más amplia. "Mythos Preview ya detectó miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web", ahondó Anthropic al momento de anunciar su nueva herramienta.

Anthropic alertó un acceso no autorizado a su herramienta Mythos

De acuerdo con información publicada por Bloomberg, un grupo acotado de usuarios logró acceder al sistema a través de un entorno informático destinado a proveedores externos. Desde la compañía reconocieron el episodio: "Estamos investigando un informe según el cual se produjo un acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de proveedores externos", indicó un vocero ante la AFP.

Las primeras evaluaciones apuntan a que el acceso se habría producido mediante distintos mecanismos, entre ellos el uso de credenciales habilitadas para empleados de empresas contratistas que colaboran en el desarrollo de los modelos.

Anthropic trabaja con un número limitado de proveedores externos que participan en distintas etapas de entrenamiento y validación de sus sistemas, lo que abre una superficie adicional de riesgo en términos de seguridad.

Qué es Mythos y por qué provocó una alianza entre las principales empresas tecnológicas

La irrupción de la inteligencia artificial ya dejó de ser una promesa para convertirse en un factor estructural del presente. En ese contexto, una de las preguntas centrales es si el ecosistema tecnológico está preparado para absorber su impacto. Desde Anthropic, la respuesta es directa: no. Al menos, no frente a las capacidades que exhibe su nuevo modelo, Claude Mythos.

La iniciativa que busca reforzar la seguridad del software crítico a escala global.

La compañía liderada por Dario Amodei decidió avanzar en una estrategia preventiva y lanzó el Proyecto Glasswing, una iniciativa que busca reforzar la seguridad del software crítico a escala global. La decisión se apoya en el potencial de Claude Mythos Preview, un sistema que —según la propia firma— supera a casi todos los expertos humanos en la detección y explotación de vulnerabilidades.

“Dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias —para la economía, la seguridad pública y la seguridad nacional— podrían ser graves”, advirtió la empresa.

En términos concretos, el planteo es simple: una herramienta de este nivel, en manos equivocadas, podría desestabilizar buena parte de la infraestructura digital global. De hecho, el modelo ya logró identificar fallas críticas en sistemas ampliamente utilizados, incluyendo:

• Una vulnerabilidad de 27 años en OpenBSD, considerado uno de los sistemas operativos más seguros.
• Un error de 16 años en FFmpeg, clave para el procesamiento de video.
• La capacidad de encadenar fallas en el núcleo de Linux kernel, permitiendo escalar privilegios hasta el control total de sistemas.

Frente a este escenario, Anthropic optó por una respuesta colaborativa. El Proyecto Glasswing reúne a algunos de los principales actores del sector tecnológico y financiero, entre ellos Amazon Web Services, Apple, Microsoft, Google, NVIDIA y JPMorgan Chase, además de organizaciones como la Linux Foundation.

El objetivo es claro: utilizar el modelo en entornos controlados para detectar y mitigar vulnerabilidades antes de que puedan ser explotadas en escenarios reales.

“La vista previa de Claude Mythos supone un salto especialmente grande”, sostuvo Amodei, quien además aclaró que el rendimiento en ciberseguridad no fue el objetivo inicial del desarrollo. “No lo hemos entrenado específicamente para que sea bueno en ciberseguridad. Lo entrenamos para que fuera bueno en programación, pero como consecuencia de ello, también lo es en ciberseguridad”. Y advirtió: “veremos modelos más potentes, tanto nuestros como de otras empresas. Por lo tanto, necesitamos un plan para responder a esto”.

El impacto potencial ya genera eco en toda la industria. Desde Microsoft, su CISO global, Igor Tsyganskiy, señaló: “Al entrar en una fase en la que la ciberseguridad ya no depende exclusivamente de la capacidad humana, la oportunidad de utilizar la IA de forma responsable para mejorar la seguridad y reducir el riesgo a gran escala no tiene precedentes”.

Como parte de esta estrategia, Anthropic amplió el acceso a más de 40 organizaciones que operan infraestructura crítica, con el objetivo de acelerar la identificación de riesgos en sistemas propios y de código abierto. Además, comprometió recursos para escalar el alcance del proyecto:

• Hasta u$s100 millones en créditos para el uso de Mythos Preview
• u$s4 millones en financiamiento directo a iniciativas de seguridad en software abierto