La UE pacta la primera ley de inteligencia artificial en el mundo
Uno de los puntos más importantes ha sido el uso de la identificación biométrica con cámaras y la IA generativa, que tendrá que cumplir los criterios de transparencia.
Las instituciones de la Unión Europea han pactado la ley de inteligencia artificial que permite o prohíbe el uso de tecnología en función del riesgo que suponga para las personas y busca impulsar a la industria europea frente a gigantes como China y Estados Unidos.
La ley de inteligencia artificial es pionera en el mundo, tiene un marco legal único, en el que se puede confiar, el acuerdo se dio después de 36 horas de negociaciones y aún lo tendrán que ratificar el Parlamento Europeo y el Consejo de la UE, la institución que representa a los Gobiernos europeos.
Vigilancia
Uno de los puntos más sensibles de las negociaciones ha sido el uso que las fuerzas del orden pueden hacer de las cámaras de identificación biométrica en espacios públicos para garantizar la seguridad nacional.
Las cámaras se pueden utilizar con previa autorización judicial para prevenir una amenaza terrorista genuina y previsible o que se esté produciendo en ese momento.
También se puede emplear para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o por ejemplo, un crimen medioambiental y para buscar a las víctimas de estos delitos.
Durante las negociaciones, los gobiernos han presionado para ampliar la lista de delitos, mientras que la Eurocámara, ha intentado limitar lo máximo posible, obtener fuertes salvaguardas para los derechos fundamentales.
Sistemas prohibidos
La norma prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual. Tampoco se pueden utilizar los sistemas que puntúan a las personas en función de su comportamiento o característica personal, ni la inteligencia artificial capaz de manipular el comportamiento humano.
Están prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de forma indiscriminada a través de internet o de grabaciones audiovisuales, en los centros de trabajo o las escuelas también están prohibidos los sistemas de inteligencia artificial que reconocen las emociones.
IA generativa
Las negociaciones son la regulación de los sistemas de inteligencia artificial generativa, en los que se basan modelos como Chat GPT, de la empresa OpenAI o Bard, de Google.
Tendrá que compartir criterios de transparencia, como especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respeten los derechos de autor.
Oficina Europea de IA
Esta coordinará el uso de la tecnología entre las autoridades nacionales y estará asesorada por un panel de científicos y de organizaciones de la sociedad civil, se espera que la ley entre en vigor en el 2026, se aplicará por fases.
La oficina europea se creará de forma inmediata, la prohibición de los sistemas prohibidos de inteligencia artificial llegará a los 6 meses, los requisitos para los sistemas y modelos de IA generativa, a los 12 meses.