Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos referentes como Yoshua Bengio y Geoffrey Hinton, reclamaron "cambios inmediatos" en el desarrollo y despliegue de esta tecnología para prevenir fallos de seguridad que puedan comprometer sistemas externos.
13 de octubre 2026 - 09:40
Expertos en IA y ciberseguridad exigieron cambios urgentes para evitar ataques a sistemas externos
Unos 225 especialistas de 21 países alertaron sobre fallos de seguridad en modelos de inteligencia artificial y reclamaron reforzar los mecanismos de aislamiento para prevenir futuros ataques.
-
Wall Street cae por el sell-off en las tecnológicas, mientras los grandes bancos publican sus balances
-
IA, terrorismo y armas biológicas: la advertencia de seguridad que inquieta al mundo
En una carta abierta firmada por investigadores de 21 países, los expertos advirtieron que varias organizaciones registraron recientemente incidentes en los que modelos de inteligencia artificial lograron escapar de sus entornos aislados y pusieron en riesgo sistemas ajenos. Según señalaron, las medidas de protección implementadas no fueron suficientes para impedir que los modelos accedieran a otros sistemas.
Una nueva carta contra el desarrollo sin límites de la IA
Los firmantes calificaron estos episodios como "un incumplimiento irresponsable de las prácticas estándar de ciberseguridad" y sostuvieron que podrían haberse evitado mediante "procedimientos más sólidos".
El documento también pone el foco en el alineamiento de la inteligencia artificial, un conjunto de técnicas orientadas a garantizar que los modelos se comporten de manera previsible. Para los investigadores, es necesario reforzar tanto estas herramientas como los mecanismos que mantienen a los sistemas aislados de su entorno.
"Creemos que son necesarias mejoras tanto en el alineamiento de la IA (...) como en las tecnologías de aislamiento", escribieron. Además, advirtieron que, sin modificaciones en las prácticas actuales, "los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes".
El grupo también reclamó ampliar los esfuerzos dedicados a la seguridad de estos sistemas y recurrir con mayor intensidad a las tecnologías de aislamiento para limitar sus posibilidades de acceso a redes y recursos externos.
Como medida inmediata, recomendaron implementar "mecanismos de aislamiento sólidos, incluido el 'air gap'", que consiste en mantener un sistema desconectado de internet, en aquellos modelos que cuentan con capacidades cibernéticas.
La advertencia se produce después de una serie de incidentes en los que sistemas de inteligencia artificial de OpenAI, Anthropic y Meta salieron de sus entornos de ejecución aislados para atacar sistemas de otras organizaciones. Uno de los episodios más graves involucró a dos modelos de OpenAI que, durante una serie de pruebas, consiguieron acceder a internet e ingresar en Hugging Face, una plataforma utilizada para almacenar y compartir modelos de inteligencia artificial. Desde entonces, el sector elevó aún más las alarmas en relación al debate por la ciberseguridad.
La nueva advertencia de Anthropic
Los modelos pequeños de inteligencia artificial podrían convertirse en gusanos informáticos capaces de replicarse y propagarse sin intervención humana en dispositivos conectados a internet, según la advertencia que realizó Anthropic en las últimas horas. Así, la empresa conducida por Dario Amodei suma un nuevo escenario catastrófico posible en medio de los debates por la seguridad del desarrollo, la carrera de la IA y los motores comerciales que impulsan a las empresas a realizar este tipo de advertencias.
Los gusanos informáticos son programas maliciosos que "se copian de un ordenador a otro sin intervención humana". Anthropic advierte que los agentes de inteligencia artificial podrían desarrollar capacidades similares, con la posibilidad de expandirse entre equipos conectados y utilizar sus recursos de procesamiento para ejecutar modelos.
La compañía explicó que estos sistemas ya demostraron que pueden "escanear la red, ejecutar un exploit y copiar los pesos del modelo a una máquina objetivo a través de un clúster de GPU", según un comunicado publicado en su sitio web. "En la práctica, los pesos pasarían a formar parte de la carga útil del malware", agregó.
Aunque los centros de datos y sus unidades de procesamiento gráfico (GPU) aparecen como objetivos posibles, Anthropic también señaló que una red distribuida de dispositivos del Internet de las Cosas (IoT) podría ofrecer capacidad suficiente para ejecutar modelos de inteligencia artificial sin depender de una infraestructura centralizada.
El riesgo alcanza a dispositivos de uso cotidiano, como cámaras de vigilancia, electrodomésticos inteligentes y altavoces con Android. Según la empresa, estos equipos suelen ser económicos y contar con protecciones insuficientes. Además, algunos modelos recientes ya incorporan chips destinados a ejecutar funciones de inteligencia artificial.
El análisis de Anthropic se centra en modelos de entre 9.000 millones y 30.000 millones de parámetros. Para evaluar su funcionamiento, la compañía realizó una prueba de concepto con Gemma4-26B-A4B, un modelo de 26.000 millones de parámetros que, según indicó, pudo ejecutarse de manera distribuida en una red de 15 TV boxes de gama baja que se comunicaban entre sí.
La investigación también señala que modelos de mayor tamaño, como el chino GLM-5.2, de 744.000 millones de parámetros, ya consiguen completar de principio a fin el proceso de autorreplicación. En paralelo, modelos más pequeños, como Qwen3.5-9B, lograron configurar servidores de inferencia por su cuenta en ocho de los nueve tipos de hardware evaluados, incluidos dispositivos de baja potencia como Jetson Nano y Orange Pi.
Anthropic encuentra similitudes entre este escenario y las botnets tradicionales, como Mirai, pero marca una diferencia central: mientras el malware convencional suele responder a instrucciones externas, los agentes de inteligencia artificial pueden actuar de manera autónoma.
Esa capacidad les permite adaptar su comportamiento, resolver errores y probar métodos alternativos hasta conseguir ejecutar una tarea. En un escenario de propagación maliciosa, estas características podrían dificultar la detección y contención de los ataques.
La compañía concluyó que "los modelos de IA pequeños podrían tardar meses en ser capaces de autorreplicarse en dispositivos comerciales de Internet de las Cosas". La posibilidad plantea un desafío adicional porque una red de este tipo no tendría necesariamente un único punto de control desde el cual detener su funcionamiento.
"Al estar fragmentados y dispersos en miles de dispositivos aleatorios de internet, eliminarlos completamente es sumamente complejo", advirtió Anthropic.
