Lyndon Drake: «En algunos círculos es controvertido distinguir a humanos de máquinas»

—¿Por qué Oxford vio necesario un diálogo entre expertos en teología y en inteligencia artificial?
—En realidad no es una decisión de la universidad, sino una iniciativa de un grupo de académicos. Una creciente mayoría de la población mundial es religiosa y, a medida que la IA se cuela en la sociedad, es importante incluir este razonamiento. Más allá, pensamos que podemos percibir cosas sobre la tecnología de maneras que no son posibles sin esa contribución teológica. También recurrieron a nosotros personas en el sector que querían tener aportaciones éticas sobre IA. 

—¿En qué consiste exactamente el Juramento de Oxford para Profesionales de la IA que promueven? 
—Es una forma de reflexionar sobre las decisiones morales en ese trabajo. Es similar al juramento hipocrático para los médicos: no prescribe qué hacer en concreto, sino que da una forma de implicarse en la deliberación moral dentro de un marco compartido. Esto intenta ofrecer ese marco compartido. Para ello, hicimos un par de cosas inusuales: escuchar a quienes trabajan en el nivel de base, no en la cima; y que pensamos que es importante distinguir a los humanos de las máquinas y reflejar una disposición a que los resultados de trabajar con IA sean buenos para las personas. Esto resultó controvertido en algunos círculos tecnológicos. 

Estamos en proceso de publicar una parte para, desde ahí, hacerlo llegar a un grupo más amplio. Esa será la prueba real. Haber estado en la Universidad Pontificia Comillas es un paso, puesto que Sara Lumbreras [coordinadora de su Cátedra de Ciencia, Tecnología y Religión] ha sido esencial en su desarrollo. 

—¿A qué compromete ese juramento?
—Lo hemos dividido en dos formatos. Algunas personas querían una carta abierta en la que expresar su acuerdo general, que es un nivel más bajo. Luego, el juramento compromete a la gente a formas de hacer las cosas, como llevar a la gente a la realidad en vez de alejarla de ella. 

—¿Qué implicaciones éticas aborda?
—La atención al mundo natural y el riesgo ambiental de estos sistemas. Un aspecto es el consumo de agua para refrigerar los centros de datos de IA, que yo creo se ha sobreestimado. Otro riesgo (que pienso que es resoluble) es que los centros de datos de IA usan una gran cantidad de energía. Deberíamos estar atentos a esos daños ambientales. El juramento, más que abordar los detalles específicos, habla de esa necesidad general de cuidar el mundo natural. Las cuestiones específicas pueden cambiar, pero esperamos que la orientación permanezca. 

—No todos aceptarán esos compromisos. ¿Vamos hacia un mundo en que haya algunos sistemas de IA éticos mientras fuera de ellos es el salvaje Oeste?
—En cierto sentido sí; es el mundo en que vivimos. Pero no creo que sea malo. Podría ser problemático si las estructuras de poder se alinean con un conjunto de valores particular. Creo que ese es un riesgo significativo en la industria de la IA.

—Hay quienes argumentan que las restricciones éticas obstaculizan el desarrollo tecnológico.
—Me parece que hay un problema cuando decimos que la ética es un obstáculo que superar. Por ejemplo, la teología cristiana puede contribuir no solo hablando de nuestra dignidad, sino diciendo también que los humanos a veces hacen cosas malas, que los sistemas que creamos otorgan poder y que, cuando la gente lo acumula, o se vuelve malintencionada o hace cosas perversas incluso involuntariamente. Los cristianos llevamos mucho tiempo teniendo una visión que ha llevado a estructuras sociales que mitigan eso.

—¿Qué piensa de la labor que está haciendo el Vaticano y del papel del Papa León XIV? ¿Buscarán cooperar?
—Estoy muy contento. Hay continuidad en la conexión con León XIII y la Rerum novarum y una profundidad de pensamiento en el mundo católico que es un regalo para todo el mundo cristiano. Estoy deseando aprender de ese ámbito. Nuestro grupo ya ha tenido algún contacto con Paul Tighe, secretario del Dicasterio para la Cultura, y ha sido extremadamente amable. No hay una colaboración formal, pero, en la medida en que esté en mi mano, estoy muy dispuesto. Ir a Comillas fue parte de esa voluntad.