Elon Musk niega acusaciones de que Grok haya creado imágenes sexualizadas de menores mientras la Justicia lo investiga

En medio del escándalo contra su chatbot, el magnate aseguró que "no tiene conocimiento" sobre hechos de esta naturaleza. Mientras tanto, el fiscal general de California inició una investigación contra xAI.

Grok, bajo la lupa por su falta de límites para crear contenido.

Elon Musk se refirió al escándalo que gira en torno a su Inteligencia Artificial, Grok, y negó que estar al tanto de que el chatbot haya generado imágenes sexualizadas de menores desnudos. Más allá de las declaraciones el fiscal general de California anunció la apertura de una investigación contra el desarrollo de la empresa de xAI por la “proliferación de material sexualmente explícito no consensuado”.

La declaración del empresario llega en un contexto de fuerte crítica internacional tras lo ocurrido. Los gobiernos del Reino Unido, la Unión Europea, Malasia e Indonesia comenzaron a tomar medidas luego de que usuarios de X solicitaran a Grok que transformara fotos de mujeres reales —y en algunos casos de niños— en imágenes sexualizadas sin consentimiento.

De acuerdo con Copyleaks, una plataforma especializada en detección y gobernanza de contenidos generados por IA, en X se publicaba aproximadamente una imagen de este tipo por minuto. Un relevamiento independiente realizado entre el 5 y el 6 de enero elevó la cifra a 6.700 imágenes por hora durante un período de 24 horas.

Elon Musk niega las acusaciones contra Grok

Hasta ahora, ni xAI ni Musk salieron ofrecieron hasta ahora una respuesta pública directa y oficial sobre el diseño de seguridad del chatbot. Incluso, días después de que se conocieran los primeros episodios, el magnate sudafricano pareció minimizar la controversia al pedirle a Grok que generara una imagen suya en bikini.

Solamente el 3 de enero la cuenta de seguridad de X se limitó a señalar que la compañía toma “medidas contra el contenido ilegal en X, incluido el abuso sexual infantil”, sin referirse de manera específica a las fallas de Grok ni a la creación de imágenes sexualizadas manipuladas.

La respuesta de Musk ante las acusaciones contra Grok.

Ese enfoque quedó reflejado en la publicación más reciente de Musk, centrada en la conducta de los usuarios y en la ilegalidad del contenido. El CEO de xAI escribió que “no tenía conocimiento de ninguna imagen de menores desnudas generada por Grok. Literalmente, ninguna”. Sin embargo, cabe destacar que los dichos del empresario no niegan la existencia de imágenes sexualizadas, como ediciones en bikini y otras.

Además, Musk también explicó que el chatbot no genera imágenes de manera autónoma, sino únicamente a pedido. “Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado. Puede haber ocasiones en que el hackeo de Grok por parte de adversarios produzca algo inesperado. Si eso ocurre, corregimos el error de inmediato”, escribió.

La única respuesta, por el momento, es que xAI habría empezado a introducir ajustes en sus barreras de seguridad y que como medida provisoria, Grok exige una suscripción premium para responder a ciertas solicitudes de generación de imágenes.

Grok afronta fuertes críticas: de la presión internacional

La polémica alrededor de Grok llegó ya a las esferas del poder judicial. “Este material… se ha utilizado para acosar a personas en internet”, advirtió el fiscal general de California, Rob Bonta, sobre lo ocurrido. En ese sentido, el funcionario instó a xAI "a tomar medidas inmediatas para garantizar que esto no siga su curso”.

Más allá de las declaraciones, la fiscalía buscará determinar si la compañía incurrió en violaciones legales y bajo qué modalidades. En la actualidad, el marco normativo estadounidense para este tipo de casos incluye distintas leyes destinadas a proteger a las víctimas de imágenes sexuales no consentidas y de material de abuso sexual infantil (MASI).

Marco de esto es la ley Take It Down Act - que entró en vigencia en 2024 - la que penaliza la distribución consciente de imágenes íntimas sin consentimiento —incluidos los deepfakes— y obliga a plataformas como X a retirar ese contenido en un plazo de 48 horas. California, por su parte, aprobó ese mismo año un paquete de normas impulsadas por el gobernador Gavin Newsom para combatir los deepfakes sexualmente explícitos.

En otro frente, la presión internacional sobre el chatbot continúa en aumento. Indonesia y Malasia bloquearon de forma temporal el acceso a Grok; India exigió a X cambios técnicos y de procedimiento inmediatos; la Comisión Europea ordenó a xAI preservar toda la documentación vinculada al chatbot, antes de avanzar con una nueva investigación; y el regulador británico Ofcom abrió una pesquisa formal en el marco de la Ley de Seguridad en Línea del Reino Unido.

Las críticas sobre Grok y su flexibilidad cuentan ya con varios meses. Es que, profesionales de distintas áreas ponen bajo la lupa las herramientas IA que, en los últimos meses, comenzaron a agregar modos de contenido "picante” destinados a generar imágenes y conversaciones explícitas. Ya en octubre del 2025, una actualización facilitó eludir las escasas restricciones existentes, lo que derivó en la producción de pornografía extrema y de imágenes sexuales explícitas y violentas.