Reino Unido inició una investigación contra X por las deepfake sexuales de Grok

El organismo de control independiente de seguridad en línea anunció el comienzo del escrutinio sobre las imágenes íntimas creadas por la inteligencia artificial de la empresa de Elon Musk. La plataforma podría recibir sanción monetaria e incluso ser suspendida.

Grok, la inteligencia artficial de la empresa de Elon Musk, está en el ojo de la tormenta en el Reino Unido. 

El Reino Unido inició una investigación sobre la red social “X”, propiedad del multimillonario Elon Musk, para determinar si las deepfake sexualmente íntimas producidas por su chatbot Grok AI violaron su deber de proteger a las personas en Gran Bretaña. La semana pasada, la empresa limitó el acceso a la función de generación de imágenes exclusivamente a los usuarios pagos.

"Ha habido informes profundamente preocupantes sobre el uso de la cuenta de chatbot Grok AI en X para crear y compartir imágenes de personas desnudas, lo que puede constituir abuso de imágenes íntimas o pornografía, e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil", dijo en un comunicado el organismo de control independiente de seguridad en línea del Reino Unido.

El organismo independiente de control de la seguridad en línea del Reino Unido contactó a la empresa el lunes 5 de enero y pidió que informe "qué medidas había tomado para cumplir con sus obligaciones de proteger a sus usuarios". La compañía respondió el pedido de información y el ente abrió una investigación con "la evidencia disponible".

Ante la consulta de Reuters por el inicio del escrutinio, la empresa citó una declaración previa en la que aseguró que está tomando medidas contra el contenido ilegal, medida que incluye al material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas. Además, afirmaron que trabajan con los gobiernos locales y las fuerzas del orden para tal fin si es necesario.

Qué dijo X sobre Grok y las deepfake sexuales

"Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", afirmó la plataforma, envuelta en un escándalo por su herramienta de Inteligencia Artificial. En este escenario, el chatbot reconoció que hubo fallas en sus mecanismos de control que permitieron la generación de “imágenes de menores con escasa ropa” dentro de la red social X.

“Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con escasa ropa”, señaló el chatbot. En el mismo texto aclaró: “xAI tiene salvaguardas, pero hay mejoras en curso para bloquear tales solicitudes por completo”.

Bidcom

En otra comunicación, el chatbot fue aún más explícito sobre la gravedad del problema. “Como se ha señalado, hemos identificado lapsos en las salvaguardas y los estamos arreglando con urgencia: el CSAM (Material de Abuso Infantil, por sus siglas en inglés) es ilegal y está prohibido”, indicó. No obstante, no brindó precisiones adicionales sobre el alcance de los fallos ni sobre los cambios técnicos en marcha.

Días después, la empresa tomó la decisión de limitar el acceso a la función de generación de imágenes de Grok exclusivamente a los usuarios pagos de X. Hasta ahora, la función estaba disponible para cualquier usuario, con un límite diario. La restricción, sin embargo, no alcanza a la aplicación independiente de Grok, que al momento de la publicación seguía habilitando la creación de imágenes sin necesidad de suscripción.

Desde multas millonarias hasta la suspensión de la plataforma, las posibles sanciones a X

El organismo regulador del Reino Unido actuó este lunes mediante el inicio de la investigación, en medio de las duras críticas de parte del primer ministro Keir Starmer, quien el jueves pasado afirmara públicamente que las imágenes producidas por Grok eran "repugnantes" e "ilegales".

El secretario de Negocios, Peter Kyle, no descartó la posibilidad de que se tome la decisión de prohibir a la inteligencia artificial. "Sí, por supuesto", dijo ante una consulta, pero aclaró que el poder para hacerlo recaía en Ofcom. Crear o compartir imágenes íntimas no consensuadas o material de abuso sexual infantil, incluidas imágenes sexuales generadas por IA, es ilegal en Gran Bretaña.

Si la investigación descubre que la empresa ha infringido la ley, Ofcom puede exigir "que tomen medidas específicas para cumplirla o para remediar el daño causado por la infracción". "También podemos imponer multas de hasta 18 millones de libras esterlinas o el 10 % de los ingresos mundiales que cumplan los requisitos, lo que sea mayor", informan.

En los casos más graves de incumplimiento continuado, el ente puede solicitar a un tribunal "medidas de interrupción de la actividad empresarial". La Justicia podría imponer "una orden, provisional o definitiva, que exija a los proveedores de pagos o anunciantes que retiren sus servicios de una plataforma, o que los proveedores de servicios de internet bloqueen el acceso a un sitio web en el Reino Unido".