Sam Altman, Dario Amodei y Elon Musk, referentes del sector de la inteligencia artificial en Estados Unidos, realizaron un llamamiento conjunto para ralentizar temporalmente el desarrollo de los modelos generativos más avanzados (de frontera). El planteo se fundamenta en los riesgos que, según los empresarios, un avance descontrolado podría generar para la seguridad y la estabilidad internacional, con China como uno de los grandes antagonistas planteado por las empresas estadounidenses. La respuesta de Pekín, sin embargo, fue diferente. En los últimos días, las autoridades chinas se distanciaron de las advertencias y cuestionaron las razones detrás del pedido para desacelerar la innovación.
Para el gobierno chino, este tipo de alertas provenientes de Occidente buscan generar temor en los mercados y proteger intereses comerciales. La posición fue expuesta por el portavoz del Ministerio de Asuntos Exteriores de China, Guo Jiakun, durante una rueda de prensa donde dio detalles sobre la postura del país frente a los pedidos para reducir el ritmo de desarrollo de la IA y aseguró que el gobierno de China mantendrá su agenda tecnológica y continuará impulsando sus proyectos digitales.
“La IA es una tecnología trascendental para el bienestar de toda la humanidad”, comenzó respondiendo el portavoz. “Todas las partes deberían promover conjuntamente un desarrollo abierto e inclusivo de la IA en beneficio de todos”.
Guo sostuvo además que China insiste desde hace tiempo por una cooperación internacional en la materia y cuestionó las posiciones que, según Pekín, pueden dificultarla: “El alarmismo, la confrontación y la competencia desleal solo obstaculizarán los esfuerzos por lograr una gobernanza global sólida de la IA, lo cual no beneficia a nadie”.
Los dichos de China llegan luego del debate abierto sobre la seguridad de la IA provocado por la publicación de una carta de renuncia del exinvestigador de OpenAI y Anthropic, Jacob Coxon. Producto de esto, el propio CEO de Anthropic, Dario Amodei, publicó un ensayo donde coincide con el análisis de Coxon y ubica a China como uno de los grandes peligros en el desarrollo de esta tecnología, y una de las grandes razones por las que EEUU debe "ralentizar" pero no "frenar" la creación de nuevos modelos.
La postura china contrasta con la visión predominante en Estados Unidos sobre el desarrollo de la inteligencia artificial general (AGI, por sus siglas en inglés). Mientras allí se presenta como una carrera en la que debe imponerse una única empresa, China plantea que el valor de la tecnología está principalmente en sus aplicaciones concretas.
La regulación de la IA en China
El Ministerio de Asuntos Exteriores chino también destacó que el desarrollo de la inteligencia artificial está sujeto a las leyes y regulaciones nacionales. Al mismo tiempo, el país impulsa iniciativas vinculadas al código abierto en espacios multilaterales como los BRICS.
“Como firme defensora de la ciberseguridad, China ha sometido oficialmente la IA a la supervisión de las leyes y normativas nacionales en materia de ciberseguridad y ha venido mejorando las directrices institucionales y las normas éticas pertinentes”, aseguró el portavoz.
Guo agregó que Pekín busca mantener la cooperación con otros países frente a los desafíos que plantea el desarrollo de la tecnología: “Estamos dispuestos a seguir colaborando con el resto del mundo para responder activamente a los riesgos y retos de ciberseguridad en la era de la IA, promover la construcción de una comunidad con un futuro compartido en el ciberespacio y hacer que internet beneficie en mayor medida a los ciudadanos de todos los países”, añadió.
China y su postura sobre la IA
Mientras en Estados Unidos el debate sobre la inteligencia artificial de vanguardia está atravesado por la posibilidad de que la tecnología represente una amenaza existencial para la humanidad, China sostiene una mirada diferente. Para sus dirigentes, la IA es una herramienta poderosa pero controlable, cuyos riesgos pueden ser contenidos mediante regulación, normas técnicas y supervisión estatal.
El modelo chino actual no contempla la incorporación de supervisores independientes dentro de las empresas de inteligencia artificial, una medida defendida recientemente por Anthropic. En su lugar, el esquema se apoya en obligaciones para los desarrolladores, normas consensuadas con el Estado, evaluaciones de seguridad y pruebas externas.
La estrategia también está marcada por una diferencia entre las industrias de IA de ambos países: mientras los desarrolladores chinos impulsaron cada vez más los modelos de código abierto, empresas estadounidenses como Anthropic y OpenAI mantienen sin publicar las especificaciones de sus modelos.
Los modelos de código abierto permiten descargar, inspeccionar y modificar sus parámetros subyacentes. Esta característica es presentada por los desarrolladores chinos como una herramienta que también puede ser aprovechada por equipos de ciberseguridad para analizar los sistemas y utilizarlos con fines defensivos.
En cuanto a los agentes, las directrices publicadas en mayo por el regulador del ciberespacio, el organismo de planificación económica y el Ministerio de Industria identificaron la "pérdida operativa de control" como uno de los riesgos de seguridad de estos sistemas. En este escenario, las normas exigen a los desarrolladores reforzar sus capacidades para detectar, intervenir, bloquear y recuperarse frente a comportamientos inadecuados de los agentes.
A su vez, los usuarios deben ser informados sobre las decisiones autónomas de los agentes y conservar la autoridad final sobre la toma de decisiones.
Wang Lihong, alto cargo del organismo regulador del ciberespacio, señaló el 1 de septiembre que era necesario prestar especial atención a los modelos de vanguardia capaces de eludir los entornos de prueba, superar las barreras de seguridad y atacar sistemas externos de producción en el mundo real.
La "pérdida de control" ya forma parte del marco de respuesta de China
China incorporó por primera vez un escenario explícito de futura pérdida de control de la inteligencia artificial en un marco de seguridad publicado en septiembre de 2024 bajo la dirección de la Administración del Ciberespacio de China (CAC, por sus siglas en inglés).
El documento advertía que no podía descartarse que, en el futuro, una IA pudiera obtener recursos externos de forma autónoma, replicarse, desarrollar autoconciencia y buscar poder externo. Ese escenario podría generar una competencia con los seres humanos por el control.
La CAC amplió ese marco en septiembre de 2025. Allí se planteó que la inteligencia artificial podría experimentar un "salto" repentino e inesperadamente grande en sus capacidades antes de adquirir recursos, replicarse y buscar poder. El nuevo documento incorporó además un principio de gobernanza denominado "aplicación de confianza, prevención de la pérdida de control".
Una interpretación posterior publicada en el sitio web del regulador señaló que ese principio apunta a proteger a los seres humanos frente a riesgos de pérdida de control que puedan amenazar su supervivencia y desarrollo, e hizo referencia a un posible escenario de "fuga de la IA".
Un enfoque distinto al de Estados Unidos
El esquema chino se diferencia de las posiciones de sectores occidentales especializados en seguridad de la IA que reclaman ralentizar o pausar el desarrollo de los modelos más capaces hasta contar con medidas de seguridad más robustas. Pekín, en cambio, impulsó desde comienzos de este año la integración de la inteligencia artificial en distintos sectores como parte de su estrategia para convertir la tecnología en un nuevo motor de la economía china.
Sin embargo, el Gobierno también mostró que está dispuesto a demorar la implementación de determinadas tecnologías cuando considera que las reglas todavía no están suficientemente desarrolladas.
En 2023, empresas chinas retrasaron durante meses el lanzamiento de chatbots mientras la Administración del Ciberespacio de China terminaba de elaborar las normas para los servicios de inteligencia artificial generativa. Una serie de productos importantes llegó al mercado después de que la regulación entrara en vigor en agosto de ese año.
