El lado oscuro de la IA: "Es mejor abrir un supermercado antes que un data center", según una experta argentina

La socióloga Milagros Miceli tiene una visión muy crítica sobre el fenómeno de la inteligencia artificial, a contramano de la tendencia general. Habla de explotación laboral, intelectual y de recursos naturales.

La socióloga Milagros Miceli durante la presentación en Buenos Aires.

La socióloga argentina Milagros Miceli, reconocida recientemente por la revista Time como una de las 100 personas más influyentes del mundo en inteligencia artificial, volvió a encender el debate global sobre los costos sociales y ambientales del boom tecnológico.

Miceli está radicada hace 16 años en Berlín. Y desde allí viene desarrollando buena parte de la batalla técnica, ideológica y teórica contra el fenómeno de la inteligencia artificial, en todas sus etapas hasta la actualidad de la IA Generativa.

La experta, de visita en Buenos Aires, ofreció una exposición abierta que fue organizada por la empresa de tecnología Santex. Ámbito tuvo la oportunidad de asistir y conversar con Milagros Miceli.

Miceli arrancó su presentación de manera contundente. Describió con crudeza lo que puede considerarse la “cara oculta” de la inteligencia artificial: explotación humana, explotación laboral y explotación de recursos naturales.

Sus declaraciones resonaron especialmente en Argentina, donde la alianza entre OpenAI y la compañía local Sur Energy para construir el megaproyecto “Stargate Argentina” -un centro de datos de escala inédita en la Patagonia, valuado en unos u$s25.000 millones- volvió a reavivar interrogantes sobre quién gana, quién pierde y quién paga la factura del avance tecnológico descontrolado.

“Ahora voy a hablar simplemente de una palabra”, comenzó Miceli. “Y esa palabra es explotación. Y la explotación básicamente de tres cosas”.

Y enumeró: “Primero, la explotación de nosotros como seres humanos, como seres con capacidad creativa, y todo aquello que nos hace humanos, a través de convertirla en datos. Segundo, la explotación del trabajo y de un montón de personas que hacen posible estas tecnologías y que no reciben ningún tipo de crédito o reconocimiento por esta labor. Y finalmente la explotación de recursos naturales, de nuestros territorios, de nuestras tierras”.

La tarea invisible de los trabajadores de datos

Uno de los señalamientos más fuertes de Miceli apunta a la invisibilización del trabajo humano que sostiene a los modelos de inteligencia artificial. “No ignoro a los ingenieros, los científicos de datos, la gente que trabaja en el modelaje”, aclaró.

“Pero hay una intencionalidad de ocultar todo el otro trabajo, que es tanto o más importante, que sostiene estas tecnologías, fundamentalmente de lo que conceptualizamos como trabajo de datos”.

Ese “trabajo de datos” -la clasificación de imágenes, la moderación de contenido violento, la rotulación de textos, la limpieza de bases- es realizado, según estimaciones del Banco Mundial, por entre 250 y 430 millones de personas en todo el planeta.

La gran mayoría lo hace en condiciones que Miceli calificó como “muy precarias, muchas veces a través de plataformas que no les permiten una relación de empleo, sin protección, sin jubilación, sin sueldos fijos”.

Mano a mano con Milagros Miceli.

Miceli relató que en sus investigaciones ha trabajado con comunidades particularmente vulnerables. “Nosotros trabajamos con refugiados del Medio Oriente en Europa, refugiados de Siria, por ejemplo, y vemos cómo las empresas van a reclutar a estas personas”, señaló. “O en barrios populares de India, incluso con subpoblaciones de mujeres y madres solteras”.

Para la socióloga, la precarización no es un efecto colateral sino una estrategia de diseño institucional que reduce costos laborales y evita responsabilidades legales para las grandes tecnológicas.

La disyuntiva que viene: data centers o supermercados

A esta dimensión se suma, según Miceli, la explotación de recursos naturales que demandan los centros de datos de gran escala. Allí su discurso se vinculó directamente con Argentina y el polémico proyecto “Stargate”.

“Quiero hacer referencia a un caso que está sucediendo en Argentina con el proyecto Stargate para crear un mega data center en la Patagonia con una inversión de hasta 25.000 millones de dólares”, dijo.

“La cifra es muy importante, pero ese ‘hasta’ indica que también puede ser de un dólar la inversión sin dejar de cumplir con su palabra”.

El proyecto, que promete convertirse en uno de los mayores nodos de cálculo del hemisferio sur, aún no ha precisado ni ubicación exacta ni requerimientos ambientales, destacó Miceli, dos elementos centrales para evaluar su impacto.

“La Patagonia es extensísima, y no se sabe efectivamente dónde se va a instalar, cuáles van a ser las condiciones que se les va a imponer, cuál va a ser el gasto energético, qué le va a aportar al país ni a nosotros y nosotras como argentinos”, planteó. Lo que sí se sabe, remarcó, es que los data centers requieren “millones de litros de agua para sus sistemas de refrigeración”.

Además, sostuvo que los beneficios en términos de empleo suelen ser mínimos. “Más allá del boom de la construcción que puede generar en un primer momento, no crea más de unos 150 a 200 empleos. Eso es más o menos lo mismo que un supermercado. A lo mejor conviene más instalar un Coto que genera el mismo empleo pero contamina menos”.

En ese sentido, Miceli remarcó que detrás del aura futurista de la “nube” persiste una infraestructura material concreta y profundamente desigual. “Cuando hablamos de la nube, la nube tiene una materialidad que son los data centers”, explicó.

“La nube está alojada en lugares específicos, en territorios específicos, ocupa lugar, contamina de maneras muy específicas, requiere de bienes naturales muy específicos, requiere de un montón de electricidad, de un montón de agua limpia y produce molestias para las personas que están ahí”, añadió.

La experta subraya que, a diferencia de la visión idealizada que suele promover la industria tecnológica, los grandes centros de procesamiento consumen recursos a una escala que pocas comunidades locales están en condiciones de absorber sin consecuencias profundas.

La amenaza de la IA sobre la propiedad intelectual

Otro de los puntos controvertidos de su exposición -el de la explotación humana- se relaciona con su denuncia sobre el uso masivo y no autorizado de obras creativas para entrenar modelos de IA generativa. “Cuando hablo de la explotación de los seres humanos, estoy hablando del hecho de que muchas de estas tecnologías se basan en el robo de la propiedad intelectual de artistas, de periodistas, de escritores, del trabajo de los y las traductoras”, sostuvo.

“Todo eso se ha tomado para entrenar conjuntos de datos sin el permiso de aquellos y aquellas que han producido este material”. Para Miceli, la industria global de IA se apalanca en una extracción sistemática de creatividad humana sin compensación ni reconocimiento, un fenómeno que ya provocó litigios en todo el mundo y que, según advirtió, continuará escalando.

Milagros Miceli junto a directivos de la empresa tecnológica Santex.

La investigadora también cuestionó el término “generativa”, al que definió como “una palabra que cuestiono bastante, como si estas tecnologías generaran algo. Lo único que hacen es robar el trabajo creativo de las personas, remixarlo y crear algo que es bastante feo y de poca calidad, por cierto”.

Su argumentación apunta a desromantizar la noción de que los modelos de IA poseen capacidades autónomas de creación, y a mostrar en cambio que funcionan como enormes sistemas de captura, recombinación y monetización de trabajo ajeno.

“Todo ha sido usado para el entrenamiento de estas herramientas, que son herramientas comerciales; no estamos hablando de herramientas que se crearon pro bono para curar el cáncer o contribuir a la sociedad”, afirmó. “Son herramientas que terminan siendo para la ganancia de unos pocos”.

El poder de imponer verdades

En su discurso, Miceli no se limita a criticar el uso de datos o las implicancias culturales del despliegue tecnológico, sino que apunta también al poder político y epistemológico que adquieren las grandes corporaciones.

En sus palabras, “cuando tenemos una mirada crítica con respecto a estas tecnologías que se terminan llamando inteligencia artificial, no estoy criticando la tecnología en sí sino la concentración de poder que producen estas tecnologías en manos de unas pocas empresas que terminan enriqueciéndose desmedidamente”.

Para ella, esa acumulación de poder deriva en un triple dominio: económico, político y epistémico. “Terminan teniendo un poder de imponer verdades o imponer arbitrariedades como si fueran verdad a partir de estas tecnologías”, advirtió.

A su juicio, la industria apuesta por desarrollar sistemas de escala global, pensados para “servir a todos”, pero que en realidad tienden a imponer “un paradigma tecnológico único”, dejando de lado alternativas más pequeñas, localizadas y diseñadas desde las necesidades de comunidades específicas.

“Las tecnologías siempre son políticas”, subrayó. “No hablo de política partidaria. Estoy hablando de una cuestión de puja de poder: quién tiene los medios de producción y quién no, quién tiene los datos y quién no”.

Lejos de plantear un rechazo total a las herramientas informáticas, Miceli distingue entre su uso como insumo para decisiones humanas y su utilización como dispositivo automatizado de decisión. “No es posible pensar que una IA pueda tomar por sí sola decisiones objetivas”, afirmó.

“Eso no quiere decir que un análisis algorítmico de ciertos datos o variables no pueda ayudar a que un ser humano, un funcionario que haya sido elegido para tomar esas decisiones, no pueda tomarlas con la ayuda de esos datos. Pero una cosa es pensar en una IA como proveedor de información y otra es cuando no hay cuestionamiento”.

Su trabajo, señaló, apunta a “desmitificar estas tecnologías” y a recordar que cada uso tiene un costo. “Ahora parece que está justificado crear imágenes generadas con IA de una ridiculez como leones prendiéndose fuego sin ver que se está prendiendo fuego el planeta por el costo ambiental de cada una de esas imágenes multiplicadas por cientos de millones de usuarios”, alertó.