El Papa alerta contra los deepfake: «También yo he sido objeto de ello»

El Papa Francisco ha exhortado este miércoles a la comunidad internacional a adoptar un tratado vinculante para regular el uso de la inteligencia artificial (IA) ante los peligros que conlleva. En el día en que se celebra a san Francisco de Sales, patrono de los periodistas, la Santa Sede ha hecho público su mensaje para la Jornada Mundial de las Comunicaciones Sociales, que se celebrará el 12 de mayo. El mensaje tiene como título Inteligencia artificial y sabiduría del corazón: para una comunicación plenamente humana.

«Renuevo mi llamamiento» a que la comunidad de naciones trabaje «unida para adoptar un tratado internacional vinculante», se lee en el texto. Pide que «regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». Aunque, «como en cualquier ámbito humano, la sola reglamentación no es suficiente», reconoce el Santo Padre, según recoge EFE.

«La difusión acelerada de sorprendentes inventos, cuyo funcionamiento y potencial son indescifrables para la mayoría de nosotros, suscita un asombro que oscila entre el entusiasmo y la desorientación», reflexiona. Entre ellos, destaca la inteligencia artificial, cuyo impacto se nota en muchos ámbitos. «También está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil», señala.

Conocimiento y falsificaciones

El Pontífice aplaude el hecho de que «los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones». También «hacer accesible y comprensible una enorme riqueza de conocimientos» de otras épocas o facilitar que «las personas se comuniquen en lenguas que no conocen».

Sin embargo, también existen peligros. Las herramientas de inteligencia artificial «pueden ser instrumentos de contaminación cognitiva, de alteración de la realidad a través de narrativas parcial o totalmente falsas que se creen y se comparten como si fueran verdaderas». Francisco alerta de que, junto a la difusión de noticias falsas, estos programas se pueden utilizar para generar deepfakes, «imágenes que parecen perfectamente verosímiles pero que son falsas» o bien audios «que utilizan la voz de una persona para decir cosas que nunca ha dicho». Y recuerda: «Yo mismo he sido objeto de ello».

Por ello, el Pontífice afirma que «es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial». Deben intentarse además «contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único». En este sentido, apunta que con la IA, «en lugar de aumentar el pluralismo de la información», es posible llegar a «perdernos en un pantano desconocido, al servicio de los intereses del mercado o del poder».

Personas reducidas a datos

Entre los otros riesgos, más abstractos, de la inteligencia artificial, el Santo Padre señala «que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio». Y, sobre todo, señala el peligro de que «acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas».

«Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial», asevera. Otro de los peligros que enumera sobre la IA es cómo las campañas de desinformación contribuyen a combatir una «guerra paralela». Esta idea enlaza con el mensaje de Francisco para la Jornada Mundial de la Paz, que también dedicó a la inteligencia artificial. La coincidencia de ambos en algo más de un mes subraya la preocupación que este asunto le genera.