La segunda fase de la campaña Qinglang también alcanzó a más de 49.000 cuentas y 2.400 sitios y aplicaciones por incumplir las normas sobre contenido generado con inteligencia artificial.
Archivo. El gobierno chino aumenta el control sobre el contenido generado con IA.
Las autoridades chinas eliminaron más de 5,61 millones de contenidos ilegales o que incumplían la normativa y tomaron medidas contra más de 49.000 cuentas durante la segunda fase de la campaña "Qinglang", destinada a combatir el uso indebido de la inteligencia artificial (IA).
El contenido al que quiere acceder es exclusivo para suscriptores.
Según datos publicados por la Administración del Ciberespacio de China (CAC), el operativo también derivó en acciones contra más de 2.400 sitios web y aplicaciones que no cumplían con las reglas.
La campaña apunta a distintos usos de la IA considerados problemáticos por las autoridades, entre ellos la creación y difusión de información falsa, contenido violento o vulgar y material que vulnere los derechos de los menores. También contempla la utilización de herramientas de sustitución de rostro y voz para suplantar la identidad de otras personas.
Entre los casos detectados aparecen cuentas que emplearon IA para modificar clásicos de la literatura china como "Romance de los Tres Reinos" y "Viaje al Oeste". También fueron identificados contenidos falsos sobre desastres y labores de ayuda, además de videos creados mediante deepfakes de figuras públicas.
La ofensiva también derivó en mayores controles por parte de las principales plataformas digitales chinas. Según la CAC, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban y Taobao reforzaron sus sistemas de detección de contenido multimedia y ampliaron sus bases de datos.
El objetivo es mejorar la identificación de imágenes faciales manipuladas, voces copiadas y otros patrones asociados a contenido que infringe las normas.
Los servicios de creación de contenido basados en chatbots e IA también endurecieron sus controles. Doubao, de ByteDance; Yuanbao, de Tencent; Qwen, de Alibaba; y Ernie Bot, de Baidu, reforzaron la censura sobre los datos utilizados para el entrenamiento y sobre el contenido generado. Además, intensificaron los requisitos para etiquetar el material creado mediante IA.
Las medidas alcanzaron también a las tiendas de aplicaciones para teléfonos inteligentes operadas por Huawei, Xiaomi, OPPO y Vivo. Estas plataformas adoptaron estándares de verificación más estrictos para los desarrolladores, incluida la revisión de aplicaciones que ya habían sido cargadas.
La CAC también informó casos de cuentas y aplicaciones sancionadas por utilizar herramientas de intercambio de rostros y voces para suplantar a figuras públicas.
En otros casos, sitios web y plataformas fueron sancionados por alojar agentes de IA cuyos avatares, imágenes de perfil o conversaciones contenían pornografía u otro tipo de contenido que pudiera afectar a menores.
Las autoridades chinas anticiparon que continuarán vigilando los riesgos emergentes vinculados al contenido generado mediante IA y que adoptarán nuevas medidas para prevenir el uso indebido de esta tecnología.
Al mismo tiempo, señalaron que buscan promover el desarrollo de las aplicaciones de IA de manera "sana y ordenada" en China.