15 claves de la encíclica Magnifica humanitas

La técnica ya no es un instrumento, sino el criterio para «establecer qué cuenta y qué puede descartarse». Este paradigma se ha difundido de forma acelerada con la IA. León XIV sostiene que «si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato o una mercancía; si la técnica se inscribe en un horizonte de sabiduría, puede convertirse en una oportunidad de crecimiento, justicia y fraternidad».

El progreso técnico necesita ser guiado y tener una finalidad, pero el desarrollo tecnológico impulsado por la IA está avanzando demasiado deprisa «sin una adecuada maduración ética y social». Se invita a «ralentizar» porque hay un desequilibro «entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos».

Insiste la encíclica en que «la inteligencia humana, con su conciencia y su libertad», debe guiar estas innovaciones técnicas y establecer «con responsabilidad su uso y sus límites». El Pontífice recuerda que los sistemas en los que se desarrolla IA «no tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias».

Reclamar limitaciones no significa estar contra el progreso. León XIV pide, más que buenas intenciones, «marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política que no renuncie a su tarea». Si no, «el cambio será gobernado solo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo».

Magnifica humanitas advierte de que las posibilidades que abre la IA están en manos de unos pocos. Es un poder tal que «tiende a hacerse opaco y a eludir el control público». En consecuencia, «crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades». Así, «el poder técnico, si no se equilibra, no nos hace más capaces; nos aísla, y nos expone aún más a lógicas de dominio y de exclusión».

La inteligencia artificial puede propiciar usos indeseados como la manipulación de la información, la violación de la privacidad o el refuerzo de las posiciones ideológicas de quienes los programan. Por ello, «el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado».

El Santo Padre pide que programadores y desarrolladores puedan rendir cuentas «de modo que la responsabilidad y las posibles culpas no se disuelvan “en la máquina”». «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos», es decir, aquellos que tienen el poder y el acceso a los datos y su elaboración. Por eso, el uso de la IA tiene que tener criterios y controles «inspirados en la participación y la subsidiariedad».

El Papa invita a «sustraerla a la lógica de la competencia armamentística». León XIV teme que «la tecnología, separada de la ética y de la responsabilidad, haga más rápida e impersonal la decisión sobre la vida y la muerte, y presente el uso de la fuerza como una opción inmediata y viable». Lamenta que uso de la IA pueda «bajar el umbral del uso de la fuerza». Las decisiones letales e irreversibles no han de confiarse a las máquinas.

León XIV denuncia una cultura del poder y la violencia que normaliza la guerra. La achaca, entre otros factores, a la crisis del multilateralismo y a los algoritmos que amplifican las narrativas mediáticas polarizadas. Por eso, «hoy más que nunca, es importante reiterar la superación de la teoría de la “guerra justa”, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa», señala el Pontífice.

Magnifica humanitas analiza la relación entre el poder y la tecnología. En concreto, la carrera «por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás». León XIV invita a desarmar la IA para romper «la equivalencia entre poder tecnológico y derecho a gobernar». Desarmarla para liberarla de los monopolios y abrirla a la pluralidad. 

Los ciudadanos están expuestos a los engaños y manipulaciones generados por la IA. El Papa señala que la desinformación no nace con esta tecnología, pero «encuentra en ella un efecto multiplicador». Porque las plataformas digitales y los sistemas de IA aceleran «los profundos cambios en la comunicación pública y política» construyendo «narrativas sesgadas y difuminando los límites entre lo verdadero y lo falso, mezclando datos y opiniones».

El Pontífice pide una alianza educativa ahora que «la verdad suele verse supeditada a intereses y estrategias comunicativas». El mundo de la educación adquiere una importancia decisiva porque la sobreestimulación a la que estamos sometidos por estos medios conduce a «una apatía ante el esfuerzo que supone buscar la verdad». «Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla».

La automatización y la IA transforman el trabajo. El Papa condena que la tecnología no se adapte a los trabajadores: «Contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas». León XIV pide sistemas centrados en la persona y no en el rendimiento para evitar la erosión del mercado laboral. 

El Pontífice reconoce que «la innovación tecnológica puede ser, en cierto modo, una forma humana de participación en el acto divino de la creación». Por ello, hace un llamamiento a los desarrolladores de la IA para que «traten con la debida seriedad los valores que infunden en sus proyectos: con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien». 

Nuestra finitud nos abre «al reconocimiento del rostro de Dios y del otro». Así, el Papa invita a que «la técnica crezca sin que se repliegue el corazón». «La humanidad no debe ser sustituida ni superada» y «lo que salva lo humano no es la autosuficiencia potenciada, sino una relación que libera, una comunión que transforma». No hay que rechazar la ciencia ni la técnica, sino situarla »dentro de una vocación más alta».