Un experto sobre la llamada de León XIV a superar la «guerra justa»: «Es un paso fundamental»

Cuando Alfa y Omega habla con Ángel Gómez de Ágreda, este coronel en la reserva, experto en ciberseguridad y director del Área de Seguridad de OdiseIA horas después de la publicación de Magnifica humanitas, se muestra entusiasmado. Muchas de las cuestiones que desarrolla el Santo Padre en la quinta parte de su primera encíclica, «La cultura del poder y la civilización del amor», coinciden con las que ha incluido en su nuevo libro, Un mundo falaz: lenguajes polarizadores, guerras híbridas, cultura del poder, abandono del multilateralismo, creación de armas más potentes e irrupción de nuevos actores armados, entre otros. También alaba que sus palabras sobre la superación de la idea de guerra justa son «un paso fundamental».

—¿Esperaba que en una encíclica centrada en la inteligencia artificial el Papa entrara tan a fondo en una cuestión como la de la guerra justa?
—No es la primera vez que se trata el tema en una encíclica, pero posiblemente sea la vez que se hace más contundentemente y con más criterio. No le sobra una coma y es muy pertinente y razonable unir estos temas. La IA es un tema tan transversal que requiere ir tocando absolutamente todos los puntos que cita. Es perfectamente lógico.

—Se venía cuestionando la aplicación actual del concepto de guerra justa desde hace tiempo, pero León XIV habla ya directamente de «reiterar la superación» del mismo. ¿Por qué?
—Es un paso fundamental. La encíclica recoge cómo la tecnología se está utilizando no solo para optimizar los resultados de las operaciones bélicas sino para generar el relato que da lugar a la guerra, para intentar justificarla. Tenemos más capacidad para elaborar relatos que puedan hacer que parezca justificada la justicia de una guerra para quien no piense demasiado. Por los ritmos a los que nos inyectan emociones, no percepciones, no da tiempo a pensar y elaborar un juicio lo suficientemente crítico.

Lo digital está implicado en todo el proceso de generación de las condiciones del conflicto, en su ejecución y en una posible salida. Hoy vemos que las guerras no se acaban nunca, se quedan pausadas porque sigue siendo más eficiente para los intereses de las grandes corporaciones mantenerlas. Y hay que tener en cuenta también que estas herramientas pueden estar en manos de actores no estatales, de grupos criminales o terroristas, que pueden acabar usándolos para imponerse contra adversarios con mayor legitimidad.

—El Santo Padre incluso restringe la legítima defensa como «entendida en el sentido más estricto».
—Tenemos el problema de la caída del viejo orden mundial surgido tras la Segunda Guerra Mundial, en el que Naciones Unidas en cierto sentido otorgaba el sello de legitimidad. No se respetan las reglas y queda al criterio de la fuerza determinar si una acción es defensiva o no.

Habla de que «se quieren justificar indebidamente aun ataques “preventivos”». En inglés se distingue entre el preventivo, cuando están a punto de atacarte, y el preemptivo o anticipatorio, antes incluso de que un enemigo pueda hacerte algo, porque tiene la capacidad de hacerlo o puede desarrollarla. Estos dos tipos evidentemente no entran dentro del concepto jurídico de acción defensiva. Tampoco que mucho tiempo después sigas atacando, para vengarte o garantizar que el que te ha atacado no volverá a hacerlo.

—¿En qué queda entonces este derecho?
—Tienes que estar respondiendo a una agresión real y presente; eliminar una amenaza que esté ocurriendo en ese momento. Es un concepto mucho más restrictivo. Se han flexibilizado mucho, para crear narrativas, conceptos que antes estaban en manos de Naciones Unidas, aunque fuera un mecanismo imperfecto, y que ahora quedan en la fuerza de cada uno.

—El Papa dice que «no es suficiente invocar la ética de manera genérica: es necesario indicar criterios precisos» para el uso de la IA en armamento. ¿Lo logra?
—Los clava. Habla de temas que son tremendamente técnicos desde lo militar y desde lo securitario. Se ve que está muy bien asesorado. El problema es lo realista que sea el poder hacer eso. Habla de la pérdida de agencia, de capacidad de decisión, de los seres humanos.

De la necesidad de poder explicar la IA, de una trazabilidad de las decisiones con la que podamos definir quién tenía la responsabilidad personal sobre ellas. Es algo fundamental. Pero ahora mismo la tendencia más cómoda no solo en defensa sino para buena parte de la sociedad es que cuando te dan tanta comodidad a la hora de conseguir tus objetivos, tiendes a delegar la responsabilidad. Y eso va en contra de poder luego buscar responsables.

Otro elemento clave del que habla es del tiempo del juicio moral. La aceleración de los ritmos en la toma de decisiones está dejando fuera el juicio moral humano. Las vidas pasan a ser meros datos, lo cual deshumaniza a las víctimas. El objetivo es cómo puedo optimizar nuestros ataques y batir 100 blancos en una hora. Pero hay decisiones que no se pueden delegar.

No se trata tanto de quién toma la decisión sino de con qué criterio lo hace. No me vale que el ser humano apriete el gatillo si la decisión se la da la máquina. Sí me vale que la máquina apriete el gatillo una vez el ser humano ha tomado la decisión desde un juicio moral.

—¿Hay más?
—La distinción y protección de los civiles. Estamos viendo en las guerras cómo en base a esta rapidez en las operaciones se están aceptando por ejemplo que haya 100 bajas civiles por cada objetivo real. Lo que hace es optimizar el uso de la IA ninguneando absolutamente la vida humana.

Estamos jugando al juego de las empresas tecnológicas, que pretenden demostrarte lo buenas que son haciendo su trabajo, independientemente de que sea bueno para la humanidad o no. Estamos optimizando un proceso en contra de la moralidad del resultado.

Y por último aborda la escalabilidad, la comodidad que tiene el recurso a la violencia. Cuando la tienes planificada por una IA hace que sea más fácil recurrir a la guerra y más difícil salirse de ella que cuando tienes que planificarlo todo tú.

—¿Cómo actuar?
—Tenemos que cambiar la mentalidad y recuperar nuestra capacidad de agencia, de ser nosotros los que tomamos las decisiones y ser responsables de las decisiones que tomamos. Para mí solo hay dos criterios necesarios para tener una IA que se pueda usar de forma ética: conocer qué estás haciendo y controlar esas decisiones.

—Además de criterios muy técnicos, el Santo Padre responde planteando una cuestión tan de fondo como la civilización del amor. ¿Encaja aquí?
—La IA tiene una capacidad enorme para generar comunidades globales. Pero tenemos que tender a crearlas basándonos en la cooperación que te permite generar la IA. Las redes sociales en Occidente se utilizan para polarizar, porque es comercialmente rentable. En China se usan para lo contrario, para aglutinar toda la opinión pública en torno a la doctrina del partido. Ninguna de estas tendencias es buena, pues en las dos estás manipulando la libertad de la gente.

—¿Entonces?
—Tenemos que hacer un uso que potencie nuestra capacidad para tener espíritu crítico y no prescindir de él. El problema no es que exista la IA, que tiene un grandísimo potencial, sino que su control esté en unas pocas manos y estas pretendan utilizarla para cambiar el orden en el que estamos. Vemos personas que buscan repúblicas tecnocráticas basadas en el control de los datos que tienen ellos.

Los Estados y las grandes empresas se sienten muy cómodos en este contexto porque los dos ganan y ejercen más control sobre la gente. De hecho, el control de los datos que ejercen las empresas es más poderoso incluso que el control de los recursos y la legislación  por parte de los Estados. Vamos hacia un mundo en que es muy posible que las empresas ocupen el lugar de los Estados o los utilicen para sus objetivos.

—Estábamos hablando de la civilización del amor y de repente está pintando un panorama muy sombrío.
—La civilización del amor es a lo que tenemos que tender. ¿Cómo? Privando de esa concentración de poder a las empresas, que además están distorsionando el mercado. El 92 % del crecimiento del PIB de Estados Unidos el año pasado se debió a empresas de IA. Pero todo es a base de inversiones entre ellas, que no va a otros sectores.

Están distorsionando todo el mercado para hacerse tan potentes que puedan prescindir incluso de los Estados. Recordemos que la revuelta contra los rohinyá en Myanmar se generó en Facebook, y que el año pasado en Nepal las redes sociales fueron capaces de derrocar al Gobierno. Ahora mismo, si eres Estados Unidos o China te puedes beneficiar. Pero el resto de los Estados no tenemos voz ni voto en cuanto a las decisiones que toman estas empresas.