Deepfakes íntimos a mujeres: ¿por qué la Inteligencia Artificial puede desnudar y qué hay detrás de esta configuración?

Especialistas piden que las empresas sean responsables, con consecuencias económicas y legales. También llaman a que la sociedad e instituciones repiensen el uso de estas tecnologías para evitar la vulneración de las personas.

En términos económicos, advierten que elaborarle filtros a una herramienta de IA "cuesta".

La falsificación de imágenes de mujeres con Inteligencia Artificial (IA), a raíz de una serie de casos en colegios secundarios, disparó en las últimas semanas un interrogante sobre esta tecnología: por qué permite desnudar y qué hay detrás de su configuración. Voces de la sociología, tecnología y el derecho le expresaron a Ámbito que es necesario poner el foco en las empresas y en la mentalidad con la que la sociedad encara estos dispositivos, a la par de establecer un sistema de multas por permitir estas habilitaciones.

Lejos de ser una práctica novedosa, analistas advirtieron que la IA se suma a una lista de tecnologías ya usadas anteriormente para alterar imágenes en contra de la dignidad de las personas. En ese sentido, advirtieron que es necesario que existan consecuencia reales contra los desarrolladores de estas aplicaciones.

Desde el mundo de la tecnología, aclararon que para las empresas suele ser costoso aplicar filtros para estos contenidos privados mientras que desde el derecho instan a las víctimas a que guarden toda evidencia digital, al momento de iniciar un proceso legal, en vez de denunciarla en las plataformas.

Por último, sociólogos consideran que esta tecnología sólo aceleró la rapidez con la que se desarrolla la violencia de género, a la par de la necesidad de elaborar políticas públicas para combatir la mentalidad con la que se encara el uso de estas herramientas.

Por qué la IA permite desnudar: el negocio antes que la dignidad de las personas

La especialista en IA aplicada a la vida real y negocios Sabrina Logullo problematizó la conformación de los modelos actuales al sostener que "no se tratan simplemente de una omisión". En ese sentido, trazó una línea de tiempo con herramientas "antecesoras" para estos usos: "Antes se podía con Photoshop, donde necesitabas conocimientos técnicos y más tiempo. Hoy, con IA, cualquiera puede hacerlo en segundos".

Y no solo eso, sino que de la misma manera los modelos de IA también pueden ser entrenados para rechazar determinados contenidos, como es el caso de ChatGPT o Gemini, que tienen restricciones ante la posible vulneración de menores o contenido sexual no consentido.

Sin embargo, Logullo advirtió que hecha la ley, hecha la trampa: "Esto también se trata de un negocio. Si existe una oportunidad de mercado, es porque hay consumidores. Hay un universo de aplicaciones que promueven la producción de estas imágenes y es porque existe una decisión de desarrollar una herramienta y comercializarla".

Así, en medio de la competencia de empresas por potenciar a los agentes, Logullo llamó a mirar el bosque y no el árbol: "Tenemos una carrera desenfrenada por ver quién desarrolla el mejor modelo o la imagen más realista. Pero ¿quién está evaluando las consecuencias?". Una posible salida que va está en empezar a adjudicar las mayores responsabilidad en quienes comercializan y habilitan el funcionamiento sin controles, por medio de multas, sanciones y consecuencias reales.

Profesionales de la tecnología problematizaron la conformación de los modelos actuales y creen que "no se tratan de una omisión".

Freepik

El doctor en Computación Nicolás D'Ippólito no tiene dudas: "Hay que separar el modelo del producto, porque el modelo puede generar casi cualquier cosa (GPT, Grok, QWen, Haiku) mientras el producto decide qué filtra (ChatGPT, Claude, Kimi). Por eso algunos lo bloquean y otros no".

A modo de ejemplo, trajo el caso de Grok, que permitía sexualizar fotos de personas reales y recién lo restringió en enero de este año luego de la polémica en torno a su uso en redes sociales. D'Ippólito explicó que en términos económicos "filtrar cuesta" y trajo el caso de otra empresa: "Para entrenar esos filtros, OpenAI contrató trabajadores en Kenia que cobraban menos de u$s2 la hora por etiquetar contenido atroz", sintetizó.

Por su lado, la abogada Florencia Zerdá, especialista en Cibercrimen y Evidencia Digital, detalló que una primera recomendación para las víctimas es conseguir asesoramiento psicológico y legal especializado, a la par de conservar la evidencia.

"Si están publicadas en algún sitio o en una conversación, guardar los links, tratar de no denunciarlo para que no se dé de baja y no borrar, a la espera de que se haga la descarga judicial", enumeró la letrada. En el caso de una víctima menor de edad, existe la figura 128 del Código Penal que castiga la distribución, creación y comercialización de este tipo de material.

Sobre esta base legal, Zerdá aclaró que si bien no fue creada para este tipo de representaciones, existen jurisdicciones que pueden avanzar con la imputación por lesiones psicológicas "si se comprueban daños en a víctima por medio de una pericia" tanto en el caso de menores y mayores de edad. Sin embargo, recalcó que aún no se registraron condenas al respecto.

"La culpa no es de la máquina, sino de la naturalización de esa violencia sumada a la accesibilidad que tienen los chicos", alertaron.

Freepik

"Disputar el sentido de su uso", el desafío de cambiar la intención sobre estas herramientas

La socióloga de Fundar Agustina Bendersky apuntó que estas herramientas "volvieron a la violencia de género más rápida, accesible y masiva" mientras que lo verdaderamente grave no pasa solo por "la sofisticación del algoritmo, sino la práctica que habilita", con la exposición y vulneración de la intimidad.

"¿Qué es lo nuevo acá? El software, la escala y la billetera virtual. ¿Y lo viejo? Una cultura machista que todavía les enseña a los varones que el cuerpo de sus compañeras es un territorio disponible para someter, consumir y lucrar", apuntó la socióloga.

Frente a esto, Bendersky abre otro interrogante: por qué los varones se organizan para armar y vender carpetas de sus compañeras. "No nos preguntamos esto porque queramos que le ocurra a ellos, sino para evidenciar que el poder se ejerce de forma asimétrica. Sobre el cuerpo masculino no se ejerce este tipo de violencia", apuntó.

Así, lamentó este tipo de uso de la IA a las que describió como "la herramienta más potente de nuestra era": "La culpa no es de la máquina, sino de la naturalización de esa violencia sumada a la accesibilidad que tienen los chicos". Frente a este panorama, instó a que la sociedad y los establecimientos educativos acompañen con políticas públicas que construyan otros imaginarios y, así, disputar el sentido de estos usos.