Unión Europea pacta la primera ley de inteligencia artificial en el mundo

La norma prohíbe el uso de la tecnología si supone un riesgo para las personas
Foto: Efe

Las instituciones de la Unión Europea pactan la ley de inteligencia artificial que permite o prohíbe el uso de la tecnología en función del riesgo que suponga para las personas y que busca impulsar a la industria europea frente a gigantes como China y Estados Unidos.

“La ley de inteligencia artificial de la Unión Europea es pionera en el mundo. Un marco legal único para el desarrollo de la inteligencia artificial en el que se puede confiar”, dijo la presidenta de la Comisión Europea, Ursula von der Leyen, en un mensaje en la red social X (antes Twitter).

El acuerdo llegó tras 36 horas de negociaciones y aún lo tendrán que ratificar el Parlamento Europeo y el Consejo de la UE, la institución que representa a los Gobiernos europeos.

 

Vigilancia en tiempo real

Uno de los puntos más sensibles de las negociaciones ha sido el uso que las fuerzas del orden podrán hacer de las cámaras de identificación biométrica en espacios públicos para garantizar la seguridad nacional.

Las cámaras se podrán utilizar con previa autorización judicial para prevenir una amenaza terrorista “genuina y previsible” o “genuina y presente”, es decir que se esté produciendo en ese momento.

También se podrán emplear para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o, por ejemplo un crimen medioambiental y para buscar a las víctimas de estos delitos.

Durante las negociaciones, los gobiernos han presionado para ampliar la lista de delitos, mientras que la Eurocámara ha intentado limitarla lo máximo posible y obtener fuertes salvaguardas para los derechos fundamentales.

 

Sistemas prohibidos

La norma, además, prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual.

Tampoco se podrán utilizar los sistemas que puntúan a las personas en función de su comportamiento o características personales ni la inteligencia artificial capaz de manipular el comportamiento humano.

También estarán prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales.

Además, en los centros de trabajo o las escuelas también estarán prohibidos los sistemas de inteligencia artificial que pueden reconocer las emociones.

 

Te puede interesar: Revés para Meta; Unión Europea prohíbe publicidad basada en recopilación de datos

 

IA generativa

El otro gran asunto que ha centrado las negociaciones es la regulación de los sistemas de inteligencia artificial generativa, en los que se basan modelos como ChatGPT, de la empresa OpenAI o Bard, de Google.

Tendrán que cumplir criterios de transparencia, como especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.

Inicialmente, la ley no estaba pensada para regular este tipo de sistemas, porque aún no se habían popularizado cuando Bruselas propuso la ley en abril de 2021, pero las instituciones comunitarias han visto la necesidad de legislarlos desde el estallido de ChatGPT el año pasado.

El reglamento no prohíbe su uso pero sí ha establecido una serie de criterios para detectar los modelos que pueden generar un alto riesgo en función del contexto en el que se usen y obliga a sus desarrolladores a cumplir unas salvaguardas más estrictas antes de sacarlos al mercado.

 

Entérate: ChatGPT no conoce 20 por ciento del léxico español y comete errores en 80 por ciento restante

 

Negociaciones “apasionadas”

Las negociaciones fueron “apasionadas”, ya que el objetivo de la ley es regular el uso de una tecnología con grandes posibilidades para la sociedad, que al mismo tiempo genera dudas y algunas preguntas que los desarrolladores de la inteligencia artificial aún no saben responder, según fuentes conocedoras de los debates.

El reglamento permite o prohíbe el uso de la inteligencia artificial en función del riesgo que genera para las personas e identifica sistemas de alto riesgo que solo se podrán utilizar si se demuestra que respetan los derechos fundamentales.

Por ejemplo, los que se puedan utilizar para influir en el resultado de unas elecciones, los que empleen las entidades financieras para evaluar la solvencia y establecer la calificación crediticia.

La presidencia española del Consejo la Unión Europea ha logrado uno de sus principales objetivos en este semestre con el pacto de esta norma pionera en el mundo.

“Hemos logran un hito importante, que los ciudadanos podemos decidir qué se puede hacer y qué no con la inteligencia artificial”, dijo la secretaria de Estado española de Telecomunicaciones e Infraestructura Digital, Carme Artigas.

 

Ofician Europea de Inteligencia Artificial

La norma prevé la creación de la Oficina Europea de Inteligencia Artificial, que coordinará el uso de la tecnología entre las autoridades nacionales y que estará asesorada por un panel de científicos y de organizaciones de la sociedad civil.

Está previsto que la ley entre en vigor en 2026 pero se aplicará por fases: la oficina europea se creará de forma inmediata, la prohibición de los sistemas prohibidos de inteligencia artificial llegará a los seis meses y los requisitos para los sistemas y modelos de IA generativa, a los 12.

El reglamento prevé multas con un rango que va desde los 35 millones de euros o 7 por ciento del volumen global de negocio de las empresas, hasta los 7,5 millones de euros o 1,5 por ciento del volumen global de negocio.

 

Lee: Uso de inteligencia artificial ha incrementado violencia digital y ciberdelitos

 

Edición: Fernando Sierra


Lo más reciente

Todos los días deberían ser 21 de febrero

No se puede celebrar la diversidad lingüística un día para desaparecerla el resto del año

La Jornada Maya

Todos los días deberían ser 21 de febrero

¿Qué haría Cervera Pacheco?

A Morena le gusta presentarse como una versión corregida y aumentada del PRI imperial

Pablo A. Cicero Alonzo

¿Qué haría Cervera Pacheco?

El PSV de Lozano rescata empate frente al Borussia: 1-1

Buena actuacion de Chucky; Inter supera al Atletico de Madrid

La Jornada Maya

El PSV de Lozano rescata empate frente al Borussia: 1-1

Lenguas indígenas, ¿con futuro?

Editorial

La Jornada Maya

Lenguas indígenas, ¿con futuro?