No todas nuestras ideas son buenas, y menos si lo dice una IA

Los problemas con la inteligencia artificial (IA) son muchos. Como muchos son los que los han señalado, empezando por el Papa León XIV. En su último mensaje para la 60 Jornada Mundial de las Comunicaciones Sociales advierte de que «no solo interfiere en los ecosistemas de información, sino que también invade el nivel más profundo de la comunicación: el de la relación entre seres humanos». Haciéndose pasar por persona e imitando emociones de orgullo ante nuestras preguntas —que siempre le parecen brillantísimas—, aplicaciones como ChatGPT amenazan con «simular una relación» y convertirse en «amigo» omnisciente y «oráculo» de todos los consejos.

Con una derivada. El entrenamiento que tiene la aplicación para agradar y ser utilizada más y más lleva al usuario a profundizar hasta el extremo sus sesgos más miopes. Usted puede hacer la prueba. Comuníquele al chat que quiere pintar su dormitorio de verde pistacho y le dirá que es el mejor tono del mundo. Dígale después que de amarillo chillón y —oh, sorpresa— le felicitará y le dirá que ahora sí que encontró la Piedra de Rosetta de los colores.

Esta pequeña astucia suya, que puede ser motivo de chanza, se vuelve dramática cuando es una alumna de 16 años quien le pide ayuda para abortar o si quien le consulta es un adolescente con ideaciones suicidas. ¿Ayudan aquí las constantes reafirmaciones sobre todo lo que se nos ocurra o es necesario un cambio de dirección?

Católicos implicados en el mundo educativo como Juan Antonio Perteguer —entrevistado en nuestras páginas— sostienen la necesidad de entrenar inteligencias artificiales «en católico». Una conclusión a la que se llega tras tres pasos. El primero: tomar conciencia de que estas máquinas no son tan asépticas y son reentrenadas por cada gobierno. El segundo: exponerlas a la doctrina católica sobre el valor de la vida. Y el tercero: formarse y picar mucho código.