El Papa reclama impedir que la tecnología domine sobre lo humano

León escuchó, y de esa escucha nació Magnifica humanitas. Por primera vez en la historia, el propio Pontífice presentó su primer gran documento programático y explicó que su motivación para escribir esta encíclica proviene de un relato «preocupante». «He escuchado a científicos e ingenieros que trabajan con entusiasmo sincero en tecnologías capaces de aliviar inmensos sufrimientos; líderes políticos y funcionarios públicos que han buscado con tenacidad normas justas; padres y educadores profundamente preocupados por el futuro de las generaciones más jóvenes. Me han llegado otras voces muy preocupantes sobre sistemas de armas cada vez más autónomas que prácticamente ningún hombre y ningún gobierno pueden controlar realmente», aseguraba ante un abarrotado auditorio. 

Pocos minutos antes de que el Papa apuntara a esta realidad el pasado lunes, en el Aula Nueva del Sínodo había tomado la palabra Cristopher Olah, el fundador de Anthropic, una de las empresas de inteligencia artificial (IA) más valiosas de Silicon Valley, ahora enfrentada al Gobierno estadounidense, y la gran sorpresa en la presentación vaticana de Magnifica humanitas. El tecnólogo reconocía con respecto a su trabajo que «seguimos encontrando cosas misteriosas, incluso inquietantes». El jovencísimo Olah, que capitanea un equipo encargado de estudiar las entrañas de estos sistemas, añadía: «Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo». En definitiva, constancia de la presencia de estados que nunca fueron programados.  

Por eso, el propio León XIV, reconociendo «la gravedad del momento», tendió la mano a Olah para «encontrar juntos el camino para la humanidad en este tiempo de la inteligencia artificial». La propuesta del Pontífice para ese viaje por los vericuetos de la IA se concentra en los cinco capítulos, más una introducción y una conclusión, en forma de 245 puntos de Magnifica humanitas. En el texto, invita a preservar y proteger aquello que nos hace realmente humanos. Así, aboga por que sea la inteligencia humana la que guíe estas innovaciones y, sobre todo, la que establezca sus límites. Leocadie Lushombo, profesora de Teología Política y Pensamiento Social Católico en la Escuela Jesuita de Teología de la Universidad Santa Clara, en Silicon Valley, comenta a este semanario que es necesario, en primer lugar, que los responsables de estas empresas tecnológicas piensen en la humanidad de la que forman parte, no solo en su propio beneficio económico; y, sobre todo, consideren «que es el ser humano el que debe orientar la tecnología, no la tecnología orientar al hombre». La experta, que participó en la presentación de la encíclica, sostiene que, si esta tecnología «se manifiesta como incontrolable, la persona tiene que hacer lo que sea por limitarla». «Por eso, insistimos en la conciencia y la responsabilidad moral que deben rodear a estos hallazgos». 

De León XIII a XIV

Con Magnifica humanitas, firmada 135 años después de la promulgación de Rerum novarum, León XIV apuntala la doctrina social de la Iglesia como ancla en la que sostenerse en la ya cuarta revolución industrial, la desencadenada por la inteligencia artificial.

En declaraciones a Alfa y Omega, el cardenal Michael Czerny retoma la analogía que el mismo León XIV empleaba entre la energía nuclear, que puede usarse para el bien o el mal (con las consecuencias que todos conocemos), y la IA. Para el prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, el del Papa León XIV «es un llamamiento muy fuerte que tiene que ver con el uso responsable». «El Santo Padre habla del poder nuclear, en el que hemos logrado un cierto control como humanidad. Tenemos que hacer lo mismo con la IA en su aplicación bélica. Y hacerlo lo más pronto posible», exhorta. 

León XIV pide «desarmar» la IA, «sustraerla a la lógica de la competencia armamentística, que hoy ya no es solo militar, sino económica y cognitiva». «Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar». «No significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano», escribe. Coonsidera que la IA «es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar». Por ello, pide no solo regularla, sino «desarmarla y hacerla acogedora», para que no sea patrimonio de unos pocos. 

Como reconoce el Pontífice, la IA ha llegado a permear múltiples aspectos de la realidad. La amenaza más escalofriante parece ser la bélica, pero incluso está creciendo y alimentándose la creencia de que gracias a la IA se «pueden superar los límites de la condición humana». Así lo postulan el transhumanismo y el posthumanismo, cuyo trasfondo ideológico propugna la centralidad de la técnica y que el ser humano necesita perfeccionarse por ella. La profesora y teóloga Anna Rowlands, desde el Aula Nueva del Sínodo, ofrecía un baño de realidad recordando que «las encíclicas también desenmascaran los falsos ídolos presentes en las ideologías de cada época». Si los precedentes documentos «nos han enseñado que no nos salvaremos por obra del mercado, ni de las fuerzas históricas, ni del Estado nación», afirmaba, Magnifica humanitas advierte de que «tampoco hallaremos la salvación en la IA ni en su post- y transhumanismo». Porque, como explica el Santo Padre en la encíclica, «todo lo que representa un límite —incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad— tiende a ser leído principalmente como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación».  

Magnifica humanitas deja claro que «una cosa es integrar las tecnologías en una visión humana y relacional y otra es dejarse guiar por un imaginario que desprecia el límite y promete una “salvación” puramente técnica». El Papa ha escrito este documento para delimitar claramente los contornos que, dada la velocidad de esta tecnología, cada vez parecen desdibujarse más sin que el discernimiento vaya al paso. Por eso, León XIV quiere que la Iglesia no pierda este tren de los tiempos simplemente observando desde lejos y «aguardando a que todo salga bien». Y, por eso, su encíclica parte de preguntar a la conciencia humana: «¿Hacia dónde vamos? ¿Hacia qué meta deseamos orientarnos? ¿Qué dirección elegir como comunidad humana y como pueblos?». Preguntas que nunca podrán responder las máquinas.