Andrea Ciucci: «¿Para qué hemos desarrollado la IA? ¿Para matarnos mejor?»

—¿Qué primera valoración hace sobre la primera encíclica de León XIV?
—En primer lugar, subrayaría el título, Magnifica humanitas. La humanidad es magnífica y el cristianismo ofrece esa visión positiva de la naturaleza humana, hermosa y grande. No somos destructivos, si bien, dentro de esa grandeza del hombre, se engloba la libertad y la responsabilidad de elegir aquello que es bello y justo. La encíclica llega en un momento en el que esta tecnología nos demanda, en realidad, una respuesta para las grandes preguntas: ¿quiénes somos?, ¿qué queremos hacer?, ¿qué humanidad queremos construir?, ¿qué futuro queremos para nuestros hijos?

—Magnifica humanitas descansa en las reflexiones previas que la Santa Sede ha desarrollado desde hace años. La Pontificia Academia para la Vida (PAV) fue pionera en el diálogo con los desarrolladores de esta tecnología.
—La Santa Sede lleva unos diez años habitando este tema porque se trata de una cuestión en la que va el destino de la humanidad. En 2020, la Rome Call for AI Ethics, convocada por la PAV, tuvo la visión de alertar sobre la urgencia de poner en marcha un debate. Todas las iniciativas de la Santa Sede tienen en común la voluntad de diálogo que precisamente subraya el Papa al hablar de Nehemías y de cómo Jerusalén renace, «no gracias a la iniciativa de una sola persona, sino a través de la responsabilidad compartida de todo el pueblo». León XIV así señala el método que hemos de usar en este tiempo, es decir, el camino de Nehemías, construir juntos. Porque la Iglesia no tiene que quedarse quieta por miedo o porque no encuentra el pleno consenso a sus principios. Se debe dialogar con quienes no piensan como nosotros.

—En esa línea, la presencia del billonario fundador de Anthropic, Christopher Olah, en el Aula Nueva del Sínodo ha sido cuestionada.
—Aunque haya muchos debates abiertos al mismo tiempo, considero que es fundamental que, en las conversaciones que se tengan en torno a la inteligencia artificial haya alguien que se dedique a la inteligencia artificial. En 2020 contamos con IBM, Microsoft, Cisco Systems. Hoy se añade Anthropic y eso es bueno. Los necesitamos porque la Iglesia tiene que hablar con estos actores y así ellos podrán darse cuenta de que tienen una responsabilidad. La tecnología no es neutra.

—De hecho, en Magnifica humanitas, el Papa afirma que de nada serviría una IA más moral si esa moralidad es de unos pocos.
—¡La cuestión es llegar a esa moralidad juntos! Para eso, lógicamente, hay que implicar a quienes se dedican a la inteligencia artificial. Y, por eso, se ha incluido a Anthropic; y bienvenidos todos aquellos desarrolladores que quieran hablar de implicaciones éticas y morales.

—¿Cree que la encíclica se leerá en Silicon Valley?
—Espero que sí, de corazón. Y me interesa mucho saber qué piensan de ella.

—Ha sorprendido a muchos que, desde ese lugar, haya figuras como Olah interesadas en conocer qué piensa la Iglesia sobre la IA.
—Todos estamos bastante preocupados por estas transformaciones. Por eso, creo que desde Silicon Valley se han interesado en entender lo que ofrecen grandes actores como la Iglesia, que construyen un pensamiento e invitan a una reflexión integral. Han comprendido que la Iglesia propone un tipo de brújula moral y ética sobre estas cuestiones. Por eso, en Silicon Valley hay interés por escucharnos.

—En la presentación de la encíclica, León XIV hizo una suerte de comparación entre el uso de la energía nuclear y la inteligencia artificial. Ambas han de ponerse al servicio de todos y del bien común. También señaló que parte de lo que le motivó a escribir Magnifica humanitas fue la escucha de «voces muy inquietantes sobre sistemas de armas cada vez más autónomas prácticamente fuera de cualquier control humano».
—El Papa escribe en la encíclica y repitió en el Aula Nueva del Sínodo durante su presentación, que tenemos que desarmar la inteligencia artificial. Porque, al fin y al cabo, hemos construido algo muy hermoso, que es esta tecnología. Y la hemos desarrollado, ¿para hacer qué?, ¿para matarnos mejor? Pues qué pena entonces.

—Pero que algo así pueda suceder es una posibilidad real.
—Sí, totalmente. Pero no me negará que es una posibilidad realmente triste.

—Entonces, usted como experto, ¿es optimista o pesimista?
—Yo soy realista y sé que la humanidad es magnífica.