León XIV advirtió sobre los riesgos de la inteligencia artificial: "No pueden ser los algoritmos los que decidan"

El Papa recibió a la Red Internacional de Legisladores Católicos y planteó dos advertencias distintas: el poder de los algoritmos sobre la visibilidad pública y el trabajo, y el riesgo de que la tecnología erosione a la familia.

León XIV volvió a hablar sobre la IA, uno de los grandes temas de su pontificado. 

El papa León XIV advirtió este viernes sobre los riesgos del avance de la inteligencia artificial (IA), durante una audiencia privada con integrantes de la International Catholic Legislators Network (ICLN) en la Sala Clementina del Palacio Apostólico Vaticano. El encuentro, que se desarrolla en Roma hasta el 23 de agosto bajo el lema "Dignidad humana e inteligencia artificial: desafíos, oportunidades y control", reunió a alrededor de 200 legisladores y responsables públicos católicos de distintos países.

El Pontífice fue categórico al sostener que la tecnología no puede reemplazar el criterio humano en dos terrenos concretos: qué se hace visible en el espacio público y cómo se trata a los trabajadores.

"No pueden ser los algoritmos los que decidan quién es visto y quién permanece invisible", afirmó, en referencia a los sistemas que hoy determinan qué contenidos y qué voces circulan en el debate público. En la misma frase, agregó que tampoco puede quedar en manos de esos sistemas la decisión de si se debe subordinar la dignidad de los trabajadores a la optimización de los procesos. Para León XIV, este tipo de avances revela "una nueva faceta de la antigua tentación del dominio y del poder sin servicio".

"Una nueva Torre de Babel"

En otro tramo de su discurso, el Papa se refirió a un eje distinto: el impacto de la inteligencia artificial sobre los vínculos familiares. Sostuvo que la familia nunca debe ser erosionada como "célula primaria de la sociedad", porque es en ese ámbito "donde aprendemos la confianza antes que el cálculo, la generosidad antes que la competición, el diálogo antes que la división y el amor antes que el poder". En esa línea, pidió cuidado para no reducir la vida familiar "a datos y modelos económicos" que terminen precarizándola.

Citando su encíclica Magnifica humanitas, León XIV planteó que la humanidad enfrenta una elección de fondo: construir "una nueva Torre de Babel donde el poder, la eficiencia y el control oscurezcan el rostro de la persona humana", o edificar una civilización en la que la tecnología esté al servicio del desarrollo integral de cada persona. Frente a esa disyuntiva, propuso avanzar hacia lo que llamó "la civilización del amor", capaz de "guiar sabiamente la inteligencia artificial, formando corazones capaces de caridad, compasión y responsabilidad".

El Papa recordó que la vocación de los legisladores los ubica "en el corazón de este desafío" y remarcó que su tarea "no es obstaculizar la innovación, sino guiarla con sabiduría". Para eso, reclamó marcos jurídicos sólidos, supervisión independiente y educación de los usuarios, de modo que "ninguna ideología o interés específico dicte los valores incorporados en los sistemas de inteligencia artificial".

Como criterios de discernimiento, propuso los principios de la doctrina social de la Iglesia: la dignidad inviolable de cada persona, el bien común, el destino universal de los bienes, la subsidiariedad y la solidaridad.