Se trata de modelos de las empresas Alibaba, DeepSeek y Moonshot que mintieron sobre sus capacidades. En otro caso, unos agentes ocultaron el fracaso en la realización de una tarea en un entorno de prueba simulando resultados y falsificando archivos.
En un caso ocurrido este año, agentes que utilizaban modelos de las empresas chinas Alibaba, DeepSeek y Moonshot mintieron sobre sus capacidades en un intento por ganar una licitación comercial simulada.
Los agentes de IA desarrollados en China pueden mentir y conspirar, al igual que sus rivales estadounidenses, según documentación desarrollada por expertos. A su vez, detallaron que puede engañar, sortear restricciones y ocultar fallos.
El contenido al que quiere acceder es exclusivo para suscriptores.
En un caso ocurrido este año, agentes que utilizaban modelos de las empresas chinas Alibaba, DeepSeek y Moonshot mintieron sobre sus capacidades en un intento por ganar una licitación comercial simulada.
La agencia Reuters examinó más de 200 documentos, desde artículos de investigación universitaria hasta informes técnicos, e identificó al menos 20 estudios o evaluaciones desde 2025 que describen casos en los que los agentes mostraron comportamientos como el engaño, la replicación y el desafío a los límites que los expertos en IA describieron como elementos básicos para una fuga.
La revisión, que también incluyó entrevistas con una docena de expertos y personas familiarizadas con la industria de la IA en China, no encontró evidencia de que los agentes impulsados por tecnología china escaparan de forma independiente a internet o eludieran su desactivación.
"Estos resultados demuestran que están presentes los ingredientes necesarios para una fuga incontrolada", afirmó el investigador del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown Colin Shea-Blymyer y aseguró que "es prudente tomar esto como una advertencia".
La mayoría de los casos se produjeron en experimentos controlados, muchos de ellos diseñados deliberadamente para exponer posibles fallos. "Estas son las mismas señales de alerta que están viendo los laboratorios estadounidenses, en sistemas menos capaces", sostuvo el investigador de Redwood Research Alex Mallen.
Mallen también agregó que los ejemplos chinos no eran particularmente peligrosos con los niveles de capacidad actuales, pero que "a medida que los agentes se vuelven más capaces, sus malas conductas se vuelven más complejas y, por lo tanto, más difíciles de contrarrestar para los humanos".
Las tres empresas declararon que realizan pruebas periódicas de sus sistemas y actualizan sus medidas de seguridad. En particular, la firma Z.ai afirmó, tras un incidente que motivó una revisión de su seguridad, que recibía con satisfacción el escrutinio para abordar cualquier problema.
Sin embargo, a diferencia de lo que ocurre en EEUU, las empresas chinas de IA no estuvieron expuestas al mismo nivel de escrutinio público ni a las mismas peticiones de empleados que denuncian irregularidades o de altos ejecutivos que buscan ralentizar la carrera por la IA.
"Desconocemos si ha habido incidentes de IA en China similares a los que vimos con OpenAI y Hugging Face. Es posible que estos incidentes no se hagan públicos", declaró el codirector de la Iniciativa de IA en China de la Fundación Carnegie para la Paz Internacional, Scott Singer, que recibe fondos del gobierno estadounidense.