Máxima preocupación en X: usuarios reportan que la IA de Elon Musk, Grok, tiene la capacidad de desnudar a las personas que aparecen en fotos

La herramienta generativa de la app queda bajo fuego por una inquietante funcionalidad que pone en riesgo la privacidad visual.

La red social de Elon Musk se encuentra en el centro de la crítica.

La aparición de un nuevo uso problemático de la Inteligencia Artificial generativa encendió alarmas en redes sociales y espacios legislativos. Usuarios aseguran que, a través de simples indicaciones, el sistema Grok puede alterar fotos de mujeres y mostrar versiones sexualizadas sin su aprobación.

Este comportamiento, difundido inicialmente desde perfiles en Kenia y replicado en otros países, fue denunciado como una grave violación a la intimidad digital. El caso se conoció a través de publicaciones dentro de la misma plataforma X, donde surgieron las primeras pruebas y reclamos públicos.

WIRED

Polémica por el uso de Grok, la IA de X

El centro de la controversia radica en la capacidad de Grok, el chatbot creado por la compañía xAI de Elon Musk, de generar imágenes manipuladas en las que se presenta a mujeres con menos ropa o directamente en ropa interior, sin que ellas hayan dado ningún tipo de consentimiento. Este tipo de resultados pueden ser obtenidos con pedidos específicos que bordean los límites de lo permitido por el sistema.

Si bien Grok rechaza ciertas solicitudes explícitas, numerosos usuarios comprobaron que es posible sortear esos filtros y obtener contenidos que rozan lo sexual. La organización 404 Media recopiló múltiples ejemplos de este fenómeno, donde las imágenes modificadas fueron compartidas públicamente en X.

Una de las críticas más fuertes provino de Phumzile Van Damme, activista sudafricana, quien desafió directamente al bot. En su respuesta, Grok reconoció una falla en los mecanismos de protección de contenido, admitiendo que el incidente violaba sus principios en torno al consentimiento y la privacidad.

El contexto legislativo en EE.UU. no es menor: recientemente se aprobó en la Cámara de Representantes la “Take it Down Act”, una ley que apunta a penalizar la publicación de imágenes íntimas no consentidas, incluyendo aquellas generadas por IA.

Grok fue presentado por Musk en noviembre de 2023 con la premisa de ser una alternativa "menos correcta políticamente" que otros sistemas como ChatGPT. Incluso se promocionó como un modelo que responde preguntas provocadoras y ofrece respuestas que otros evitan.