La Unión Europea acordó el viernes 8 de diciembre una legislación sin precedentes a nivel global para regular la inteligencia artificial (IA), después de tres días de intensas negociaciones entre los estados miembros y el Parlamento Europeo. Los legisladores de la UE han llegado a un “acuerdo político” sobre un texto que debería promover la innovación en Europa, limitando al mismo tiempo los posibles abusos de estas tecnologías tan avanzadas. "¡Histórico! La UE se convierte en el primer continente que establece normas claras para el uso de la IA”, celebró el comisario europeo Thierry Breton, al inicio del proyecto presentado en abril de 2021.
Desde entonces, las discusiones se han prolongado. La última ronda de negociaciones, iniciada el miércoles por la tarde, duró casi 35 horas... El proceso se vio interrumpido a finales del año pasado por la aparición de ChatGPT, el generador de textos de la empresa californiana OpenAI, capaz de escribir ensayos, poemas o traducciones en segundos. Este sistema, al igual que los capaces de crear sonidos o imágenes, reveló al público en general el inmenso potencial de la IA. Pero también ciertos riesgos. La distribución en las redes sociales de fotografías falsas, de gran tamaño, ha alertado, por ejemplo, del peligro de manipulación de la opinión.
Este fenómeno de la IA generativa se ha integrado en las negociaciones actuales, a petición de los eurodiputados que insisten en una supervisión específica para este tipo de tecnología de alto impacto. En particular, pidieron más transparencia sobre los algoritmos y las gigantescas bases de datos que se encuentran en el corazón de estos sistemas. Los Estados miembros temían que una regulación excesiva acabara de raíz con sus incipientes campeones, como Aleph Alpha en Alemania y Mistral AI en Francia, al hacer que los costes de desarrollo fueran prohibitivos.
El acuerdo político alcanzado el viernes por la noche debe complementarse con trabajos técnicos para finalizar el texto. "Analizaremos atentamente el compromiso alcanzado hoy y garantizaremos en las próximas semanas que el texto preserve la capacidad de Europa para desarrollar sus propias tecnologías de inteligencia artificial y preserve su autonomía estratégica", reaccionó el ministro francés de Digital, Jean-Noël Barrot.
El sector tecnológico es crítico. "La velocidad parece haber prevalecido sobre la calidad, con consecuencias potencialmente desastrosas para la economía europea", afirmó Daniel Friedlaender, director para Europa de la CCIA, uno de sus principales grupos de presión. Según él, ahora es "necesario" "trabajo técnico" en detalles cruciales.
En cuanto a la IA generativa, el compromiso prevé un enfoque de dos velocidades. Se impondrán reglas a todos para garantizar la calidad de los datos utilizados en el desarrollo de algoritmos y verificar que no violen la legislación sobre derechos de autor. Los desarrolladores también deberán asegurarse de que los sonidos, imágenes y textos producidos estén claramente identificados como artificiales. Las restricciones reforzadas se aplicarán sólo a los sistemas más potentes.
El texto retoma los principios de la normativa europea existente sobre seguridad de los productos que impone controles basados principalmente en las empresas. El corazón del proyecto consiste en una lista de reglas impuestas sólo a los sistemas considerados de "alto riesgo", esencialmente aquellos utilizados en áreas sensibles como infraestructura crítica, educación, recursos humanos, aplicación de la ley, etc. Estos sistemas estarán sujetos a una serie de obligaciones como prever el control humano de la máquina, el establecimiento de documentación técnica o la implantación de un sistema de gestión de riesgos. La legislación prevé una supervisión específica de los sistemas de inteligencia artificial que interactúan con los humanos. Les obligará a informar al usuario que está en contacto con una máquina.
Las prohibiciones serán raras. Se tratarán de aplicaciones contrarias a los valores europeos, como la calificación ciudadana o los sistemas de vigilancia masiva utilizados en China, o la identificación biométrica remota de personas en lugares públicos para evitar la vigilancia masiva de las poblaciones. Sin embargo, sobre este último punto, los Estados han obtenido exenciones para determinadas misiones policiales, como la lucha contra el terrorismo.
A diferencia de los códigos de conducta voluntarios de ciertos países, la legislación europea estará dotada de medios de vigilancia y sanciones con la creación de una oficina europea de IA, dentro de la Comisión Europea. Podrá imponer multas de hasta el 7% de la facturación, con un mínimo de 35 millones de euros, para las infracciones más graves.
