Por Andrea Tornielli
Nuestro director editorial reflexiona sobre la primera encíclica del Papa León XIV, ‘Magnifica humanitas’, en la que el Papa hace un llamamiento para que la tecnología avance sin que ello provoque un retroceso en el corazón humano.
En la era de la inteligencia artificial, con la dignidad humana en peligro de ser eclipsada por enormes concentraciones de poder tecnológico fuera de todo control, y por nuevas formas de deshumanización, el Papa León XIV nos recuerda el “deber urgente” de seguir siendo profundamente humanos.
El sucesor de Pedro nos invita a dejar que la tecnología avance “sin permitir que el corazón retroceda”, incluso en medio de nuestros tiempos llenos de polarización y violencia, que ven la expansión de una “cultura del poder” y la guerra rehabilitada como instrumento de la política internacional.
Nos invita a aceptar los límites y la fragilidad de la humanidad y a no considerarlos un error que deba corregirse, como lo hace la ideología tecnocrática. El Papa nos insta a mirar el mundo no desde la perspectiva de los poderosos, sino desde abajo, a través de los ojos de quienes sufren, empezando por los más desfavorecidos.
Debemos contemplar a la humanidad, dice, a través de los ojos de Dios, quien tomó sobre sí nuestra debilidad y la transformó en un lugar de salvación, porque “incluso cuando las máquinas sobresalen en eficiencia, un rostro humano que pide ser contemplado sigue siendo el centro de nuestra historia”.
Magnifica humanitas —la primera encíclica del Papa León XIV— no es principalmente un texto analítico sobre inteligencia artificial, ni entra en los detalles de procesos que están en constante evolución.
Más bien, se trata de una “ summa ” que aplica los principios de la Doctrina Social de la Iglesia a nuestra era de IA, consolidando y actualizando los puntos clave del magisterio papal.
Es un texto que pone fin al malentendido de aquellos que, confiando en la libertad absoluta de los mercados y las nuevas tecnologías, tienden a desestimar la enseñanza de los Papas sobre la necesidad de una gobernanza humana compartida de la IA, la ecología integral, las estructuras económicas que se convierten en “estructuras de pecado” y el rechazo a la guerra.
El papa León XIV, que tomó su nombre del papa León XIII, autor de la encíclica Rerum novarum , nos invita a todos, en esta época de revolución digital, a asumir un papel activo. La construcción de la «civilización del amor», afirma, se logra mediante pequeños pero tenaces actos de fidelidad capaces de frenar la deshumanización. Esta tarea nos concierne a todos íntimamente, concluye.
El Papa León nos recuerda que “las injusticias no surgen únicamente de las malas decisiones de los individuos, sino también de las estructuras, los mecanismos y los sistemas económicos y culturales que producen desigualdad”, y que “el desarrollo no es verdaderamente humano si aumenta el consumo de algunos mientras traslada los costos y las cargas a otros, o si relega a regiones enteras a roles subordinados”.
Lamentablemente, esto ya está ocurriendo hoy en día en el ámbito de las nuevas tecnologías y los recursos que requieren.
La encíclica afirma que el principio de la propiedad privada tiene un papel social indispensable y es defendido por la Iglesia. «Hoy, entre los bienes universalmente destinados a todos, debemos incluir también nuevas formas de propiedad, como las patentes, los algoritmos, las plataformas digitales, la infraestructura tecnológica y los datos», para evitar que surjan o se consoliden nuevas formas de exclusión y privación de libertad.
Según él, la tecnología no es una herramienta sencilla; cuando se convierte en el criterio con el que se juzga todo, “empieza a dictar qué importa y qué se puede descartar”, reduciendo a “los seres humanos a meros engranajes de un sistema impulsado hacia una eficiencia cada vez mayor”.
Hoy en día, señala, el control sobre las plataformas, la infraestructura, los datos y la capacidad de procesamiento informático “no recae en los Estados, sino en los principales actores económicos y tecnológicos”. Estas empresas, afirma, establecen las condiciones de acceso, las reglas de visibilidad y la posibilidad misma de participación.
«Cuando ese poder se concentra en manos de unos pocos», dice el Papa, «tiende a volverse opaco y a eludir la supervisión pública, aumentando el riesgo de formas de desarrollo distorsionadas que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades».
Reafirmando la necesidad de ir más allá de la teoría de la “guerra justa”, el Papa León XIII pide que el uso de la inteligencia artificial en la guerra esté sujeto a las más estrictas restricciones éticas, porque “ningún algoritmo puede hacer que la guerra sea moralmente aceptable”.
La inteligencia artificial se ha convertido en un elemento decisivo para moldear la opinión pública mediante la manipulación de imágenes y contenidos, lo que dificulta cada vez más distinguir la verdad de la falsedad.
También existen muchas incógnitas en lo que respecta al mercado laboral. En este sentido, la encíclica recuerda que ya no es posible confiar únicamente en la «mano invisible» del mercado.
Los sistemas políticos tienen la tarea de orientar la dinámica económica y tecnológica hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación.
Mantenerse humanos, gobernar los procesos y evitar los monopolios que terminan aumentando el poder de unos pocos a costa de la vida de muchos: este es el camino indicado por el Papa, que no levanta barricadas ni rechaza de plano el uso de la IA.
Por el contrario, el Papa León XIII destaca los numerosos aspectos positivos y las múltiples aplicaciones útiles de la IA. Al mismo tiempo, explica que no basta con plantear una cuestión ética sobre el buen o mal propósito con el que se utiliza la IA.
Según él, es fundamental intervenir con antelación y preguntarse cómo está diseñado un sistema y qué idea de persona y de sociedad está inscrita en los datos y modelos que lo rigen.
Por ello, aboga por marcos jurídicos adecuados, supervisión independiente, formación de los usuarios y, sobre todo, “un sistema político que no eluda su responsabilidad”.
De lo contrario, afirma el Papa León XIV, el cambio se regirá únicamente por la lógica tecnocrática y se presentará como “necesario e inevitable”, imponiendo en última instancia normas “dictadas” por quienes poseen los datos, las infraestructuras y la capacidad informática.
Por lo tanto, el Papa León X afirma que debemos “desarmar” la IA, es decir, desacreditar “la premisa de que el poder técnico confiere automáticamente el derecho a gobernar”.
Debemos hacerlo, dice, no para renunciar a la tecnología, sino para evitar que domine a la humanidad y para abrirla al debate.
En lugar de renunciar a nuestra humanidad, debemos “dar testimonio de la grandeza de la humanidad, en la cual Dios ha hecho su morada”