El Papa pide transformar «las espadas en arados» en su mensaje por la paz

La Oficina la Prensa de la Santa Sede ha hecho público en la mañana del 14 de diciembre el mensaje del Papa por la 57 Jornada Mundial de la Paz que se celebrará 1 de enero de 2024. Con el título Inteligencia artificial y paz, el documento explora las oportunidades y límites de esta tecnología y pide ponerla el servicio del bien común.

Francisco comienza su mensaje con un primer epígrafe, «El progreso de la ciencia y de la tecnología como camino hacia la paz»., en el que celebra con optimismo «las extraordinarias conquistas de la ciencia y de la tecnología, gracias a las cuales se ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos». Aunque matiza que «los progresos técnico-científicos», especialmente aquellos que permiten «un control sobre la realidad, algo nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común».

En un segundo apartado titulado «El futuro de la inteligencia artificial entre promesas y riesgos», el Papa diagnostica que «los nuevos instrumentos digitales están cambiando el rostro de las comunicaciones, de la Administración pública, de la instrucción, del consumo, de las interacciones personales y de otros innumerables aspectos de la vida cotidiana». Una transformación que implica el riesgo de que, a partir de la extracción de datos, sea posible «controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección».

La responsabilidad en el centro

Debido al desarrollo simultáneo en muchos lugares diferentes de inteligencias artificiales, el Papa recalca que esta tecnología debe entenderse como «una galaxia de realidades distintas y no podemos presumir a priori que su desarrollo aporte una contribución benéfica al futuro de la humanidad y a la paz entre los pueblos». En vez de dar por supuesto un éxito automático, recalca que su implementación solo tendrá un resultado positivo «si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales como la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad».

Precisamente esa capacidad, la responsabilidad, está en el centro de las recomendaciones del Papa para una justa implementación de las IA. Y pide cultivarla frente a los peligros que la rodean. «La libertad y la convivencia pacífica están amenazadas cuando los seres humanos ceden a la tentación del egoísmo, del interés personal, del afán de lucro y de la sed de poder», lamenta.

En un tercer epígrafe llamado La tecnología del futuro: máquinas que aprenden solas, hace referencia al proceso de machine learning en el que estas inteligencias buscan y absorben por su cuenta conceptos, quizá equivocados, que acaban reproduciendo.

«La habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad», dice Francisco sobre aplicaciones como ChatGPT. «Se dice que pueden ‘alucinar’, es decir, generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios». Algo especialmente peligroso cuando se emplean estas herramientas «en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación». Esta dinámica, unida a la invasión de la privacidad de los usuarios, son «factores corren el riesgo de alimentar los conflictos y de obstaculizar la paz».

Los derechos no pueden depender de un algoritmo

En un cuarto apartado llamado «El sentido del límite en el paradigma tecnocrático», el Pontífice observa que «nuestro mundo es demasiado vasto, variado y complejo para poder ser completamente conocido y clasificado». «Las máquinas inteligentes pueden efectuar las tareas que se les asignan cada vez con mayor eficiencia, pero el fin y el significado de sus operaciones continuarán siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores», señala Francisco. Algo aparentemente contralado por el hombre, pero que implica el riesgo de que «ciertas decisiones se vuelvan menos transparentes, de que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad».

En su quinto punto, titulado «Temas candentes para la ética», el Papa se muestra contrario a que «en el futuro, la fiabilidad de quien pide un préstamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían ser determinados por sistemas de inteligencia artificial». Advierte de que estos sistemas que aprenden automáticamente están especialmente expuestos a «formas de prejuicio y discriminación» y podrían acabar estableciendo «categorizaciones impropias entre los ciudadanos».

E incluso aunque los análisis de los ordenadores parezcan precisos, el Papa considera que «no debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado».

También señala que la robotización de las tareas en los trabajos genera el «riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos». «El respeto de la dignidad de los trabajadores y la importancia de la ocupación para el bienestar económico de las personas, las familias y las sociedades, la seguridad de los empleos y la equidad de los salarios deberían constituir una gran prioridad para la comunidad internacional», reivindica.

Desarrollar la «algorética»

En el sexto epígrafe, llamado «¿Transformaremos las espadas en arados?», Francisco aborda las aplicaciones bélicas de la IA. «La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso», alerta, a lo que añade que «los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables».

Al Papa le preocupa también que «armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas». Y considera que «lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra». «Si lo hace así, no sólo la inteligencia, sino el mismo corazón del hombre correrá el riesgo de volverse cada vez más artificial», advierte.

Propone en su lugar que la técnica sirva «para pavimentar los caminos de la paz». «Si la inteligencia artificial fuese utilizada para promover el desarrollo humano integral, podría introducir importantes innovaciones en la agricultura, la educación y la cultura», vaticina. Propone el desarrollo de lo que llama «la algorética», esto es, «un diálogo interdisciplinar destinado a un desarrollo ético de los algoritmos en el que los valores orienten los itinerarios de las nuevas tecnologías».

Los deberes para la educación y la política

En un séptimo apartado con el título «Desafíos para la educación», el Santo Padre reconoce que «al multiplicar las posibilidades de comunicación, las tecnologías digitales nos han permitido nuevas formas de encuentro».Pero invita a una «reflexión permanente sobre el tipo de relaciones al que nos está llevando», sobre todo en el caso de los jóvenes.

«La educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico», señala Francisco, quien pide a las escuelas sembrar en sus alumnos el discernimiento «en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial» para protegerlos de la desinformación.

En su octavo y último punto, el mensaje de la paz del Papa enumera los «Desafíos para el desarrollo del derecho internacional que implica la inteligencia artificial. «Exhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». No solo para «la prevención de las malas prácticas, sino también para alentar las mejores, estimulando planteamientos nuevos y creativos y facilitando iniciativas personales y colectivas».

Finalmente reivindica que «el trabajo de redacción de las orientaciones éticas para la producción de formas de inteligencia artificial no puede prescindir de la consideración de cuestiones más profundas, relacionadas con el significado de la existencia humana, la tutela de los derechos humanos fundamentales y la búsqueda de la justicia y de la paz». Una condición que, a su juicio, debería implicar en su elaboración a «los pobres, los marginados y otros más que a menudo quedan sin ser escuchados en los procesos decisionales globales».