Un llamamiento a la utilización ética de la inteligencia artificial

Como alguien formado en ingeniería y ciencia, siempre he sentido una llamada a buscar nuevas tecnologías. Como alguien educado en la fe católica, también tiendo a prestar atención a otro tipo de llamadas elevadas, como la que ha hecho el Vaticano.

El año pasado, la Santa Sede se puso en contacto con nuestra compañía, IBM. El Papa Francisco estaba preocupado por los efectos de la tecnología en la sociedad y en las familias de todo el mundo, y por el riesgo de agrandar la brecha entre ricos y pobres. La preocupación concreta era la inteligencia artificial (IA), la tecnología más capacitada para imitar lo mejor y lo peor de las cualidades humanas. ¿Cómo podría el mundo utilizar la IA para el bien, a la vez que reducir su potencial para convertirse en una fuerza para el mal?

El líder de los 1.300 millones de católicos del mundo encomendó a la Academia Pontificia de la Vida estudiar este problema. Y la pasada semana en Roma llegó el resultado de este esfuerzo: IBM, junto con Naciones Unidas y el Vaticano, ha firmado un llamamiento papal para hacer una utilización ética de la inteligencia artificial.

IBM nunca antes había firmado en un llamamiento del Papa. Pero estos son tiempos poco habituales en el mundo de la tecnología.

A pesar de todo lo bueno que puede venir del uso responsable de la IA –como mejorar el conocimiento médico y los tratamientos, o hacer todo tipo de tareas humanas menos fatigosas o más eficientes y respetuosas con el medio ambiente–, el mundo también ha visto cómo actores y actuaciones perversas utilizan la tecnología con fines dañinos. Eso es lo que ocurre cuando, con fines políticos, se generan noticias falsas que no se distinguen de las reales. O cuando algunas compañías rentabilizan datos personales para sus propios intereses egoístas. O cuando gobiernos autoritarios utilizan el reconocimiento facial y otras formas de IA para actuar como un Gran Hermano.

Y por eso, las organizaciones públicas y privadas necesitan urgentemente crear salvaguardas alrededor de tecnologías como la IA. Esto no incluye solamente directrices éticas, como las que el Vaticano está pidiendo, sino también directrices legales vinculantes, como la regulación precisa de la IA que IBM y otros han propuesto recientemente. En ese ámbito se incluyen iniciativas como el libro blanco para la regulación de la inteligencia artificial de la Unión Europea, que IBM apoya.

Una mirada sincera al espejo

Las máquinas no son malas. No hay nada malvado inherente a la IA. Las máquinas que los humanos creamos simplemente reflejan quiénes somos como personas y como sociedad. Las máquinas de IA aprenden de nuestros datos y de nuestro entrenamiento. De esta forma, mirarlas es como mirarnos en el espejo. Por lo tanto, la cuestión es cómo se usan estos sistemas. Se trata de una elección humana. Como también lo es el modo en que podemos y debemos regular estas máquinas.

El documento del Vaticano hace un llamamiento a la cooperación internacional para diseñar y planificar sistemas de IA en los que el mundo pueda confiar, a partir del consenso entre políticos, investigadores, académicos y organismos no gubernamentales sobre los principios éticos que deberían integrarse en estas tecnologías.

Mantener a las personas al mando

IBM, que viene inventando e introduciendo nuevas tecnologías desde hace más de un siglo para responder de manera responsable a las necesidades de la sociedad, cuenta con décadas de experiencia en inteligencia artificial. En 1997, nuestra tecnología era ya lo suficientemente avanzada como para que nuestro ordenador Deep Blue ganara al gran maestro del ajedrez Garry Kasparov. 14 años después, el sistema de inteligencia artificial Watson fue capaz de acumular, analizar y aprender lo suficiente de un enorme compendio del conocimiento humano y ganar el concurso de la televisión norteamericana Jeopardy!, contestando a preguntas complejas hechas en lenguaje natural.

Ahora, aproximadamente una década más tarde, la IA ha alcanzado capacidades impresionantes –y potencialmente dañinas–. Por eso IBM cree que cada vez que una compañía u organización utiliza la inteligencia artificial debería informar al usuario. Asimismo, a pesar de que la IA tenga capacidades similares a las humanas, debería tener también un ser humano tomando la decisión final. Debería ser así tanto cuando un médico determina el tratamiento que ha de seguir un paciente, como cuando un jefe militar decide cuándo un arma dotada de inteligencia artificial es utilizada en un conflicto bélico.

Frente a este contexto tecnológico y humano, los escépticos pueden preguntarse: ¿Cuál es el valor de firmar un compromiso para la utilización ética de la IA liderado por el Vaticano? Tiene el poder de todo gran acto público de fe, la asunción del compromiso de perseguir el bien mayor, incluso cuando todo el mundo reconoce que los humanos no somos infalibles.

John E. Kelly III
vicepresidente de IBM