Los riesgos de abusos «se han complicado o intensificado» con la IA

La inteligencia artificial está en sus albores, pero, a pesar de ello, la Conferencia Episcopal Española ha querido centrarse en la relación entre esta y los abusos a menores en el IX Encuentro de Oficina de Protección de Menores, que tuvo lugar el 18 y 19 de septiembre. No en vano el Papa León XIV ha dedicado su primera encíclica a la custodia de la persona humana en el tiempo de la inteligencia artificial. En cualquier caso, la jornada confirma la disposición de la Iglesia a anticiparse ante cualquier circunstancia que pueda representar el más mínimo riesgo para los menores, un cambio de paradigma que fue asumido eclesialmente hace ya muchos años.

La encargada de desenmascararlos, en el contexto de la jornada, fue Amparo Alonso, asesora internacional para la ética de la IA —acaba de regresar de Kenia— y CEO de Ethical Artificial Intelligence for Human Development SL, quien impartió una charla sobre Las nuevas formas del abuso del menor en redes sociales y entornos digitales. La ética del cuidado en la era de la inteligencia artificial. «Yo los clasifico en riesgos visibles, que son aquellos en los que podemos identificar al agresor, o riesgos invisibles, más relacionados con la arquitectura de la plataforma, los sistemas de recomendación o la dependencia psicológica», resume en conversación con Alfa y Omega. En la primera categoría cita al grooming, que es cuando un adulto establece una relación de confianza con el menor a través de internet con fines sexuales, o de la sextorsión, cuando un adulto amenaza a un chaval con difundir imágenes íntimas suyas. Para este artículo, sin embargo, le pedimos a la experta —que incluso ha colaborado con el Vaticano— que se centre en los riesgos invisibles, que «se han complicado o intensificado» con la IA, advierte. Habla por ejemplo del deepfake sexual. «Ahora, en cuestión de segundos, cualquiera puede crear una imagen sexual falsa con el rostro del menor», asegura. O fuera del ámbito sexual, Alonso advierte contra la suplantación de identidad.

Frente a todas estas nuevas formas de abuso, la CEO de EAIHD reivindica la ética del cuidado. Porque ocurre que muchos padres les regalan a sus hijos un móvil «a edades excesivamente tempranas». El motivo más habitual es para tenerles localizados, pero el resultado es que buena parte de ellos acaban abriéndose un perfil en redes sociales. El problema es que «muchas plataformas tienen activado por defecto la cesión de fotografías para ser utilizado con fines de inteligencia artificial». Al final, se trata de una puerta abierta para que los ciberdelincuentes puedan disponer de todo ese material a su antojo.

Por eso, la experta pide «generar espacios de formación en las parroquias, en los colegios y en las familias en los que se eduque a los chicos para la IA, no con la IA». En ellos «habría que ayudar a los menores a comprender las medidas de seguridad y privacidad». En el caso de las familias, además, «es clave que se generen espacios de confianza», con el objetivo de que «si los menores se ven afectados por alguna de las cuestiones que detallábamos antes» pues que puedan «acudir a sus padres para que estos le ayuden a solucionar el problema». Si no hay confianza, los adolescentes terminan contándole las cosas a la IA de turno. 

Alonso lo constató recientemente durante una charla con chicos de 50 países. «Uno de ellos me dijo: “Si estos sistemas vienen entrenados con toda la información que hay del mundo, ¿por qué tengo que consultar a mis padres las cosas, o a un psicólogo mis problemas? Se lo preguntó al chatbot y listo”».  Ante esta visión, el Papa León XIV en Magnífica humanitas subraya que «estos sistemas se basan en la informática, en las matemáticas y en la estadística y realmente no tienen una conciencia moral, no pasan por la alegría ni el dolor, no maduran en las relaciones ni conocen lo que significa la emoción, el trabajo, la amistad».

Guía para atender al victimario

El IX Encuentro de las Oficinas de Protección de Menores, en el que participó Luis Manuel Alí Herrera, secretario de la Pontificia Comisión para la Protección de Menores (Tutela Minorum), concluyó con la presentación de una Guía de atención al victimario de abusos sexuales a menores o adultos vulnerables en el seno de la Iglesia.

El documento, actualmente en proceso de edición, ha sido elaborada por uno de los grupos de estudio constituidos bajo la tutela del Servicio de Protección de Menores. La guía ofrece orientaciones a diócesis, institutos de vida consagrada y sociedades de vida apostólica para el acompañamiento de los agentes de pastoral —sacerdotes, religiosos y laicos— que han cometido abusos o presentan factores de riesgo de cometerlos, desde una perspectiva de responsabilidad, prevención y cuidado.

Entre sus principales aportaciones destaca el Pacto Institucional con el victimario, una herramienta colegiada que permite concretar, supervisar y evaluar las medidas acordadas en cada proceso de acompañamiento.