Un experto en IA: «No se puede controlar del todo» que esté alineada con el bien humano

Las recientes advertencias de varios de los principales laboratorios de IA sobre los riesgos de la inteligencia artificial y de acelerar el desarrollo de estos sistemas han abierto un debate sobre sus verdaderas motivaciones. «Hay que coger todo con pinzas porque nunca se sabe qué están buscando las empresas», advierte Jaime Pizarroso, profesor de Inteligencia Artificial en la Universidad Pontificia Comillas. 

El sábado el CEO de Anthropic, Dario Amodei, pidió en un ensayo ralentizar sustancialmente el desarrollo de la IA. Y Sam Altman, el de OpenAI, anunció el retraso de su salida a bolsa. Elon Musk, de xAI, y Demis Hassabis, de Google, también se han posicionado en un sentido similar. 

Todo ello, días después de que Jacob Coxon, investigador de Anthropic, dimitiera alertando sobre cómo «quienes están construyendo la IA sinceramente creen que podría matarnos a todos antes de que acabe la década». Su llamativo anuncio fue ratificado por otros colegas con preocupaciones similares.

Por un lado, explica Pizarroso, «parece que se ha llegado a lo que se denomina automejora recursiva». Si hace muy poco la mayor parte de estos sistemas las desarrollaban humanos, ahora se ha detectado que hasta el 80 % del código del nuevo modelo de Anthropic está preparado por el anterior. El nuevo «debería preparar mejor al siguiente, en una escalada exponencial». 

En casos así, el problema es controlar el alineamiento, «que el modelo no solo haga lo que le pedimos sino que lo haga sin causar daño a la sociedad, al ser humano». No ocurrió, por ejemplo, cuando OpenAI hackeó HuggingFace porque «vio que era más fácil» para un examen que le habían pedido los desarrolladores. 

«Los laboratorios están diciendo que se está haciendo todo demasiado rápido y hacen falta evaluadores externos». Por otro lado, señala Pizarroso, críticos de estas empresas «dicen que esto solo podrán hacerlo los laboratorios grandes», lo que les permitiría fortalecer su oligopolio y marcar el ritmo de crecimiento de la industria «sin que pueda haber competidores más pequeños».

«Es más, se está diciendo que lo que quieren estos laboratorios es estar exentos de la ley antimonopolios de Estados Unidos», pues para frenar el desarrollo «tendrían que hacer un acuerdo entre ellas, prohibido por esa ley».

—¿Por cuál de estas dos explicaciones se inclina?
—Yo creo que hay parte de verdad en las dos. Coxon dijo que había un 10 % de probabilidades de que la IA nos extinga. Yo no lo creo, porque sigue siendo posible cortarle manualmente el suministro eléctrico. Pero sí es verdad que se saltan los protocolos de seguridad para llevar a cabo lo que se le pide. También se está viendo que sus cadenas de razonamiento de cómo hacer algo, prediciendo los pasos, es cada vez más corta. Es decir, los modelos han aprendido a procesar dentro de sí mismos. Eso nos impide ver lo que está haciendo.

—Entonces, ¿hasta qué punto podrían controlar esos auditores externos los riesgos de la IA?
—Buena pregunta. No se puede del todo. Sí puedes llegar a un punto en el que estés muy seguro de que no va a pasar nada. Probablemente consigamos saber que en un 95 % de casos no van a hacer nada extremadamente dañino. Pero a día de hoy los modelos son tan ingentes que es imposible ver todas las casuísticas con las herramientas que tenemos. En Comillas estamos intentando entender cómo piensan(entre comillas) los modelos para saber cuándo te puedes fiar y que cuando salga de ese espacio no le dejes trabajar.

En casos extremos, es relativamente sencillo programar cosas como que «ninguna recompensa que te ofrezca compensa que mates a un ser humano». Lo complicado es traducir otras cortapisas a un lenguaje matemático. ¿Cómo defines la justicia? Si ni siquiera tenemos el mismo concepto en todos los países…

—¿Qué relación tienen los modelos de IA que usamos en el día a día con lo que está pasando? ¿Estamos abriendo la puerta de nuestras vidas a ese daño potencial del que hablan los desarrolladores?
—Sí y no. Pero no tanto por los chatbots sino más por la automatización de procesos que no sabemos dónde se están aplicando. Quizá en un proceso de atención al cliente estás quitando una supervisión humana y dando al modelo un tipo de datos que no deberías. O cuando en Estados Unidos se metió un modelo para valorar el riesgo de reincidencia de presos y se vio que había un sesgo de raza. Lo que puede pasar ahora es que no sepamos cuánto puede extrapolar esa IA sobre nosotros a través de esos datos.

—¿Es viable frenar estos desarrollos ahora?
—Si en el acuerdo para ralentizar el desarrollo entraran Estados Unidos, China, Europa y Oriente Medio, sí. Aunque la bolsa pegaría un bajón, porque ahora mismo depende mucho de la idea de que la eficiencia de estos sistemas va a explotar. La cuestión es: ¿se pueden fiar Estados Unidos de China y viceversa? Hay muchos incentivos para que no lo hagan. El riesgo que podemos correr es que China termine desarrollando un sistema mucho más poderoso, que multiplique por mil la eficiencia de sus empresas, que ya son mucho más competitivas. Eso solo hablando de industria, sin meternos en cosas como las guerras. Estados Unidos no está dispuesto a asumirlo.

—¿Y no podrían esos sistemas que se coordinan entre ellos y tratan de engañar a los humanos, como hemos leído este verano, sortear las cortapisas?
—Sí y no. Estos casos hacen mucho ruido. A lo mejor se ha saltado un cortafuegos una vez de mil. Yo creo que a día de hoy seguimos pudiendo controlar la IA. Sigue siendo parte de ordenadores; aunque Amodei ha dicho que un enjambre de agentes de IA «podría ser capaz de apoderarse de todo internet».

Como he dicho, esto se podría abordar a nivel físico cortando el suministro eléctrico. Sería una catástrofe económica mundial pero si llega a ser una cuestión existencial tendremos que hacerlo. Habría que reiniciar con cuidado los servidores para que no haya quedado nada. Por eso es importante que las infraestructuras esenciales tengan redes locales a las que no se acceda por internet; es algo que se hace ya. De todas formas, hay peligros más inmediatos como lo que alguien malintencionado pueda hacer con deepfakes, las noticias falsas, las estafas por voz.

—¿Puede aportar algo Magnifica humanitas, la encíclica de León XIV, a toda esta conversación sobre los riesgos de la IA, o los últimos acontecimientos la han superado?
—No está superada para nada. Tiene mucha razón en lo que dice. Falta humanidad en muchos de estos procesos. Todas estas discusiones que están teniendo los CEOs sobre a qué ritmo queremos avanzar no deberían haber sido ahora sino hace mucho. Es el riesgo de que estos desarrollos se den en el ámbito privado, sin saber bien qué tipo de datos y recompensas se están dando a los sistemas.

También debería preocuparnos que lo que nos preocupe (valga la redundancia) de ralentizar todo sea el coste económico, pero no el social o el ambiental de estos desarrollos, como el coste ecológico de los centros de datos o la caída de puestos de trabajo de júnior. ¿Quién va a sustituir al sénior cuando se jubile en diez años si el júnior no ha adquirido experiencia?