Europa prioriza la dignidad humana frente a la IA

La sesión de debate más dilatada en la historia de la Unión Europea —38 horas de negociaciones— esculpió la primera ley integral del mundo que busca regular una tecnología que ya domina todos los aspectos de lo cotidiano y no siempre para bien. La inteligencia artificial (IA) permite automatizar tareas tan habituales como hacer la compra, tomar decisiones médicas importantes al predecir el desarrollo que tendrá una enfermedad o mejorar la eficiencia de los procesos de producción de una empresa. Pero es también una herramienta perversa, como refleja lo que ocurrió en un instituto de Badajoz donde un alumno creó artificialmente fotos de falsos desnudos de algunas de sus compañeras. Por eso era clave garantizar su desarrollo bajo el paraguas de la ética.

«La aprobación de la ley sobre la IA reafirma la toma de conciencia en Europa de que la dignidad humana y su traducción en derechos humanos deben reconocerse como preexistentes a cualquier entidad estatal y a cualquier orden social», asegura el franciscano Paolo Benanti, mano derecha del Papa en las intrincadas cuestiones tecnológicas. La normativa sitúa a la persona en el centro, en una época en la que «la confrontación con las máquinas exige poner en valor la especificidad de nuestro ser humano».

El sacerdote italiano —que también es miembro del órgano consultivo de la ONU sobre IA, así como jefe de la comisión del Gobierno italiano dedicada a esta tecnología— tiene argumentos sólidos para los que afirman que toda regulación es enemiga del desarrollo: «Cuando inventamos máquinas que eran más rápidas que los humanos —los coches—, redactamos un código de circulación, no para restringir la libertad de las personas ni para acabar con el mercado automovilístico, sino para evitar los accidentes y las víctimas. Los guardarraíles, las licencias y las matrículas sirvieron para que fuéramos libres de ir a donde quisiéramos disminuyendo riesgos y peligros», remacha.

El nuevo marco normativo sobre inteligencia artificial protegerá «la vida y la libertad» de todos los europeos. «Estamos ante un momento ejemplar de una Europa que, por fin, pone la dignidad humana en el centro», asegura Benanti, quien impulsó la decisión de Francisco de priorizar este año en su mensaje por la paz el uso ético de la IA.

¿Qué cambia?

La normativa, que ahora tiene que aterrizar en cada país y que no entrará en vigor de forma integral hasta 2026, prohíbe el uso de sistemas de IA considerados una clara amenaza para la seguridad y los derechos de las personas y obliga a especificar si un texto, una canción o una foto se han generado por este recurso.

Así, clasifica en cuatro niveles las aplicaciones de IA en función de los riesgos que se derivan de su uso. Las más inocuas, como los filtros de spam o los detectores de duplicados de textos, se podrán usar sin restricción alguna. Las más dañinas, como los sistemas utilizados para influir en el resultado de las elecciones, están sujetas a mayores controles o a prohibiciones totales.

También se pone coto a los sistemas de categorización biométrica, lo que evitará, por ejemplo, que las aplicaciones puedan capturar de forma indiscriminada imágenes faciales de los usuarios, ya sea por internet o por cámaras de vigilancia. El objetivo es impedir que toda esta información personal sea utilizada para crear bases de datos de reconocimiento facial.

Asimismo, se vetan los sesgos algorítmicos. La legislación exige que estos sistemas estén bajo supervisión humana para prevenir la discriminación. Por otro lado, también se pone coto a los sistemas de vigilancia policial predictiva o al reconocimiento facial a distancia, si bien hay excepciones, por ejemplo, en la prevención de delitos graves como el terrorismo. Actualmente hay cuerpos policiales estadounidenses que usan bases de datos privadas de reconocimiento facial, como el creado por la start-up Clearview, que se alimenta con fotos de personas robadas de internet, aunque en Europa ya está prohibida su utilización.