La Unión Europea prohibirá modelos de Inteligencia Artificial que generen deepfakes sexuales

La disposición "prohíbe los servicios de IA para la generación de imágenes sexuales e íntimas no consentidas". La medida también alcanza a la pornografía infantil y el Parlamento Europeo trabaja en una enmienda similar, que podría aprobarse próximamente.

Grok generó diversas polémicas en los últimos meses: desde avatares sexualizados a la generación de deepfakes sin límites.

Los países de la Unión Europea (UE) prohibirán los sistemas de Inteligencia Artificial (IA) que generan 'deepfakes' de carácter sexual, tras el escándalo provocado por las imágenes de este tipo producidas por Grok, el modelo propiedad del magnate Elon Musk. El proyecto hace foco en el consentimiento de las personas usadas en el contenido y en prevenir la pornografía infantil.

Los representantes de los 27 países del bloque en Bruselas aprobaron una enmienda a un proyecto de ley sobre inteligencia artificial, cuyo objetivo es prohibir estos servicios en toda la UE.

La Unión Europea prohibirá la generación de deepfakes sexuales con IA

La disposición aprobada "prohíbe los servicios de IA para la generación de imágenes sexuales e íntimas no consentidas o pornografía infantil", según un comunicado del Consejo Europeo, el órgano de la UE que reúne a los Estados miembros.

El Parlamento Europeo trabaja en una enmienda similar, que podría ser aprobada en comisión la próxima semana. El objetivo es prohibir los servicios de IA y otras aplicaciones que permiten a los usuarios "desnudar" a adultos o menores, o crear imágenes sexualmente explícitas de ellos sin su consentimiento, utilizando fotos o vídeos reales.

Grok y Musk: el objetivo de una IA sin límites.

Hace unos meses Grok introdujo una función que permite a los usuarios crear imágenes de personas simulando desnudez a partir de fotos reales, lo que provocó indignación en muchos países y dio lugar a una investigación de la UE.

X, la plataforma donde está disponible Grok, declaró en enero su política de "tolerancia cero" ante los deepfakes sexualizados de niños y mujeres y afirmó haber tomado medidas para detener la creación de estas imágenes.

"No se trata de tomar medidas contra escándalos individuales como el de Grok, sino de limitar el poder que otorgamos a la IA", subrayó el eurodiputado alemán Sergey Lagodinsky, una de las figuras clave de esta iniciativa.

La Unión Europea enviará ayuda de emergencia al Líbano por los ataques de Israel en el sur del país

La Unión Europea anunció este miércoles que enviará fondos al Líbano en medio de los los constantes ataques de Israel en el sur del país. Según la Comisión Europea, el despliegue inmediato de fondos de emergencia se destinan a socorrer a la población civil, obligada a desplazarse por la incursión israelí Hezbolá.

La presidenta de la Comisión Europea, Ursula von der Leyen, junto con el presidente del Consejo Europeo, António Costa, comunicaron en una declaración conjunta la activación de recursos a través de ReliefEU, el mecanismo de respuesta rápida del bloque ante crisis humanitarias.

El paquete de ayuda está orientado a asistir a unas 130.000 personas dentro del territorio libanés, muchas de ellas desplazadas por la intensificación de los combates en la frontera sur.