Las imágenes creadas con herramientas generativas son cada vez más difíciles. Pero, todavía hay señales visuales y formas de comprobar su orígen.
La IA avanza a pasos agigantados y hoy es cada vez más difícil diferenciar una foto real de una de mentira.
No sería loco afirmar que estamos atravesando una de las revoluciones tecnológicas más importantes de la historia. La Inteligencia Artificial generativa no solo cambió nuestra relación con el conocimiento y la información, sino también la forma de crear imágenes y consumirlas.
El contenido al que quiere acceder es exclusivo para suscriptores.
Hoy en día, una foto que parece real puede haber sido producida completamente por un modelo de IA en cuestión de segundos. El avance de estas herramientas hizo que los errores más evidentes que presentaban las primeras versiones ya no sean suficientes para identificar una imagen falsa.
El primer paso es mirar la imagen con atención, especialmente esos elementos que suelen ser difíciles de reproducir con precisión. Las manos, los dedos, los dientes, los ojos, las orejas y algunos detalles de la cara pueden presentar inconsistencias. También conviene revisar carteles, patentes, documentos y otros textos en la escena, elementos que suelen tener deformidades o errores gramaticales.
Un indicio bastante conocido para diferenciar una imágen hecha con IA es la textura. Los modelos actuales eliminan el ruido digital y, en consecuencia, suavizan en exceso las superficies. Por ejemplo, la piel no tiene poros, el pelo no tiene frizz, los materiales son demasiado uniformes, etc.
Otro indicio puede estar en la iluminación. En algunas imágenes generadas por IA, las sombras no coinciden exactamente con la posición de la luz o los reflejos aparecen en lugares que no corresponden. Lo mismo puede pasar con objetos que deberían proyectar sombras sobre otros elementos de la escena y no lo hacen.
Los fondos también pueden darnos pistas. Una persona puede estar perfectamente construida, pero los objetos que aparecen atrás tienen formas raras, estructuras que no terminan de cerrar o detalles que se repiten. Una ventana, por ejemplo, puede mostrar un paisaje que no coincide con el resto de la imagen.
Hay otra alternativa, que es más técnica: revisar las credenciales de contenido. El estándar C2PA permite incorporar información sobre el origen y el historial de un archivo. Esta herramienta puede usarse para registrar la procedencia de fotos que se sacaron con cámaras u otros contenidos digitales.
OpenAI, por ejemplo, informó que las imágenes generadas con ChatGPT, Codex y su API incluyen metadatos C2PA y marcas de agua SynthID. Estas señales funcionan de manera diferente: los metadatos aportan información sobre la procedencia. La marca de agua está integrada en la propia imagen y puede sobrevivir a algunas transformaciones.
El problema se volvió más complejo porque las herramientas generativas evolucionaron a una velocidad que dificulta establecer una única señal o indicio visual para reconocerlas. Las imágenes actuales pueden reproducir personas, lugares y situaciones con un nivel de detalle que hace cada vez menos útil la idea de buscar una mano deformada o una cara rara.
La industria tecnológica no para de avanzar y ahora busca desarrollar sistemas de identificación invisibles. Google usa SynthID para incorporar marcas de agua que permiten reconocer contenido generado por sus herramientas. En agosto, la empresa permitió desactivar algunas marcas visibles, pero mantuvo las invisibles y los metadatos C2PA. La empresa señaló que estas señales pueden verificarse mediante sus herramientas.
Meta estrenó en julio su propio sistema, llamado Content Seal, para identificar imágenes generadas con IA. El sistema usa una marca de agua invisible, que busca mantenerse detectable, incluso después de modificaciones como recortes o compresión.
La discusión dejó de ser solamente tecnológica. La posibilidad de producir una foto falsa e hiperrealista afecta directamente a la circulación de información, más que nada en en redes sociales, donde el contenido es más éfimero y los controles, más débiles. Una imagen se puede compartir miles de veces antes de que alguien se ponga a comprobar de dónde salió. Ya lo vimos muchas veces: desde parejas falsas hasta spots políticos de mentira.
El escenario también plantea un problema para los medios, periodistas y cualquier persona que publique información en internet. No alcanza con preguntarse si una imagen “parece” real. Cuando el contenido puede tener consecuencias informativas, es obligatorio revisar su origen y usar las herramientas de verificación que corresponda.