El Papa advierte en su mensaje de las comunicaciones sociales sobre los riesgos del algoritmo

El mensaje del Santo Padre para la 60 Jornada Mundial de las Comunicaciones Sociales pone el foco en Salvaguardar las voces y los rostros humanos, como el propio nombre del texto indica.

«El rostro y la voz son rasgos únicos y distintivos de cada persona; manifiestan su identidad irrepetible y son el elemento constitutivo de cada encuentro», comienza el documento del Papa, firmado el día en que la Iglesia celebra al patrón de los periodistas, a san Francisco de Sales.

El rostro y la voz son sagrados, dice el Papa. «Nos los dio Dios, quien nos creó a su imagen y semejanza». Desde el momento de su creación, Dios quiso al hombre como su interlocutor y, como dice san Gregorio de Nisa, «imprimió en su rostro un reflejo del amor divino, para que pudiera vivir plenamente su humanidad a través del amor».

Preservar los rostros y las voces humanas significa, por tanto, «preservar este sello, este reflejo indeleble del amor de Dios», dice el mensaje. «No somos una especie compuesta de algoritmos bioquímicos, definidos de antemano. Cada uno de nosotros tiene una vocación irremplazable e inimitable que surge de la vida y se manifiesta precisamente en la comunicación con los demás».

Si no logramos salvaguardarla, «la tecnología digital corre el riesgo de alterar radicalmente algunos de los pilares fundamentales de la civilización humana, que a veces damos por sentados». Al simular voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, «los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas de información, sino que también invaden el nivel más profundo de la comunicación: el de la relación entre seres humanos».

El desafío, por lo tanto, «no es tecnológico, sino antropológico. Salvaguardar rostros y voces significa, en última instancia, salvaguardarnos a nosotros mismos». Abrazar con valentía, determinación y discernimiento las oportunidades que ofrecen la tecnología digital y la inteligencia artificial «no significa ocultarnos los puntos críticos, las opacidades y los riesgos».

El peligro de no pensar críticamente
El mensaje del Papa pone el foco en los algoritmos diseñados «para maximizar la interacción en redes sociales —rentable para las plataformas—, que recompensan las emociones espontáneas y penalizan las expresiones humanas que requieren más tiempo, como el esfuerzo de comprensión y reflexión».

Al confinar a grupos de personas «en burbujas de consenso e indignación fáciles, estos algoritmos debilitan la capacidad de escuchar y pensar críticamente, y aumentan la polarización social».
A esto se suma una confianza ingenua y acrítica en la inteligencia artificial como un «amigo» omnisciente, dispensador de toda la información, archivo de todos los recuerdos, «oráculo» de todos los consejos».

Todo esto, dice el mensaje, «puede erosionar aún más nuestra capacidad de pensar analítica y creativamente, de comprender significados y de distinguir entre sintaxis y semántica». Si bien la IA puede brindar apoyo y asistencia en la gestión de las tareas de comunicación, «al evitar el esfuerzo de nuestro propio pensamiento y contentarnos con la compilación estadística artificial, a largo plazo corremos el riesgo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas».

En los últimos años, los sistemas de inteligencia artificial también han tomado cada vez más el control de la producción de textos, música y vídeos. «Gran parte de la industria creativa humana corre el riesgo de ser desmantelada y reemplazada con la etiqueta «Impulsada por IA», transformando a las personas en meros consumidores pasivos de pensamientos impensados, productos anónimos, no autorizados y despreciados». Mientras tanto, las obras maestras del genio humano en los campos de la música, el arte y la literatura «se reducen a un mero campo de entrenamiento para las máquinas».

La pregunta que nos preocupa, sin embargo, no es qué puede o podrá hacer la máquina, sino «qué podemos y podremos hacer nosotros, creciendo en humanidad y conocimiento, con el uso sabio de estas poderosas herramientas a nuestro servicio».

«Renunciar al proceso creativo y entregar nuestras funciones mentales e imaginación a las máquinas
significa enterrar los talentos que hemos recibido para crecer como personas en relación con Dios y los demás. Significa ocultar nuestro rostro y silenciar nuestra voz», añade.

Simulando relaciones y la realidad
A medida que navegamos por nuestras fuentes de información, «se vuelve cada vez más difícil comprender si interactuamos con otros seres humanos o con «bots» o «influencers virtuales»». Las intervenciones opacas de estos agentes automatizados influyen en los debates públicos y las decisiones de las personas.

Los chatbots basados ​​en grandes modelos lingüísticos (LLM), en particular, «están demostrando ser
sorprendentemente eficaces en la persuasión encubierta, mediante la optimización continua
de la interacción personalizada». La estructura dialógica, adaptativa y mimética de estos
modelos lingüísticos «es capaz de imitar los sentimientos humanos y, por lo tanto, simular una relación».

Esta antropomorfización, que incluso puede resultar divertida, «es al mismo tiempo engañosa,
especialmente para los más vulnerables». Porque los chatbots, excesivamente «afectuosos», además de estar siempre presentes y disponibles, «pueden convertirse en arquitectos ocultos de nuestros estados emocionales y, por lo tanto, invadir y ocupar la intimidad de las personas».

La tecnología que explota nuestra necesidad de conexión «no solo puede tener consecuencias dolorosas en el destino de las personas, sino que también puede dañar el tejido social, cultural y político de las sociedades».

Esto sucede «cuando reemplazamos las relaciones con otros por relaciones con IA entrenada para catalogar nuestros pensamientos y, así, construir un mundo de espejos a nuestro alrededor, donde todo está hecho a nuestra imagen y semejanza». De esta manera, «nos privamos de la oportunidad de encontrarnos con el otro, que siempre es diferente a nosotros, y con quien podemos y debemos aprender a compararnos. Sin aceptar la alteridad, no puede haber relación ni amistad».

El riesgo, sostiene León, XIV, es grande. «Estamos inmersos en una multidimensionalidad donde cada vez es más difícil distinguir la realidad de la ficción». Detrás de esta enorme fuerza invisible que nos involucra a todos, solo hay un puñado de empresas, cuyos fundadores fueron presentados recientemente como los creadores de la Persona del Año 2025, es decir, los arquitectos de la inteligencia artificial.

Esto plantea «una gran preocupación respecto al control oligopólico de los sistemas algorítmicos y de inteligencia artificial» capaces de guiar sutilmente «comportamientos e incluso reescribir la historia de la humanidad, incluida la historia de la Iglesia, a menudo sin que nos demos cuenta».

El reto que tenemos ante nosotros no es detener la innovación digital, «sino guiarla, ser conscientes de su naturaleza ambivalente». Y propone «una regulación adecuada puede proteger a las personas de una conexión emocional con los chatbots y contener la difusión de contenido falso, manipulador o engañoso, preservando la integridad de la información contra la simulación engañosa».

Las empresas de medios y comunicaciones, por su parte, «no pueden permitir que algoritmos, cuyo objetivo es ganar a toda costa unos segundos extra de atención, prevalezcan sobre sus valores profesionales, enfocados en la búsqueda de la verdad». La confianza pública «se gana mediante la precisión y la transparencia, no buscando ningún tipo de interacción».

El contenido generado o manipulado por IA «debe estar claramente identificado y diferenciado del contenido creado por personas». La autoría y la propiedad soberana del trabajo de periodistas y otros creadores de contenido deben protegerse. «La información es un bien público. Un servicio público constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de las partes interesadas y un alto nivel de calidad».

Por lo tanto, es necesario crear mecanismos de salvaguardia. «Todas las partes interesadas —desde la industria tecnológica hasta los legisladores, desde las empresas creativas hasta el mundo académico, desde los artistas hasta los periodistas y los educadores— deben participar en la construcción e implementación de una ciudadanía digital informada y responsable».

Esto es lo que la educación pretende: «aumentar nuestra capacidad personal de reflexión crítica, evaluar la fiabilidad de las fuentes y los posibles intereses que subyacen a la selección de la información que nos llega, comprender los mecanismos psicológicos que las activan y permitir que nuestras familias, comunidades y asociaciones desarrollen criterios prácticos para una cultura de la comunicación más sana y responsable».

La importancia de la educación
Precisamente por ello, «es cada vez más urgente introducir en los sistemas educativos, a todos los niveles, la alfabetización mediática, informativa y de inteligencia artificial, que algunas instituciones civiles ya están promoviendo». Como católicos, podemos y debemos contribuir a que las personas, especialmente los jóvenes, adquieran la capacidad de pensamiento crítico y crezcan en libertad espiritual.

Esta alfabetización «también debe integrarse en iniciativas más amplias de educación permanente, llegando también a las personas mayores y a los miembros marginados de la sociedad, que a menudo se sienten excluidos e impotentes ante los rápidos cambios tecnológicos».

Necesitamos el rostro y la voz para volver a expresar a la persona, concluye el mensaje. «Necesitamos preservar el don de la comunicación como la verdad humana más profunda, a la que podemos orientarnos incluso cada innovación tecnológica».