La UE estudia prohibir la IA para la vigilancia masiva

Tecnologías que valoran a las personas de forma predictiva tendrán regulaciones
Foto: Afp

La Unión Europea (UE) prepara un borrador para regular los usos permitidos de los mecanismos de Inteligencia Artificial (IA), y en él establece prohibiciones para usos como los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva, mientras que los sistemas de alto riesgo pasarán a tener una mayor supervisión.

Así se extrae de un borrador elaborado por organismos comunitarios europeos al que ha tenido acceso The Verge, filtrado en Internet pero que se espera que sea anunciado oficialmente la próxima semana.

La nueva regulación contempla que los Estados miembros de la UE deberán constituir un consejo asesor común, integrado por expertos y dedicado a validar los sistemas de IA considerados de alto riesgo.

El borrador también establece que las compañías que comercialicen sistemas de IA prohibidos en la UE, aunque tengan su base en otras partes del mundo, podrán enfrentarse a multas que podrían llegar hasta el 4 por ciento de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD).

 

Tipos de IA prohibiros y regulados

Entre los tipos de sistemas de IA prohibidos por la UE se incluirán los de "vigilancia indiscriminada" de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistemas.

La Unión también estudia vetar las tecnologías de IA que hacen valoraciones sociales de las personas, y que por ejemplo realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.

Asimismo, la UE establece en su borrador varios tipos de IA que pasan a estar sujetos a una mayor regulación, como es el caso de los sistemas considerados de "alto riesgo", entre los que se enmarcan todos ellos que puedan suponer un riesgo para la seguridad física, como los sistemas de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros. 

En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana y que los sistemas no se hayan entrenado con datos sesgados, según contempla el borrador.

De estar tarea se encargará un nuevo organismo, denominado 'Consejo Europeo de Inteligencia Artificial', que se espera que esté integrado por expertos en IA de todos los países miembros de la UE, que decidirán qué sistemas se consideran de alto riesgo y posibles cambios de regulación.

El borrador de la UE menciona también a los sistemas de reconocimiento facial en espacios públicos, para los que pasará a exigirse una autorización especial, mientras que también se requerirá que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte "obvio por el contexto de uso".

 

Edición: Laura Espejo


Lo más reciente

Tras 13 años de espera, llega 'Grand Theft Auto VI' con enorme expectación y presión

Funcionarios de Florida han cuestionado si los recursos públicos deben promover una franquicia conocida por robos y tiroteos

Ap

Tras 13 años de espera, llega 'Grand Theft Auto VI' con enorme expectación y presión

Audiencia Nacional española investiga a Julio Iglesias por posibles delitos sexuales

El juez señaló que la denuncia contenía indicios preliminares suficientes para justificar la apertura de un procedimiento penal

Reuters

Audiencia Nacional española investiga a Julio Iglesias por posibles delitos sexuales

Israel cruza la línea amarilla en Gaza por una operación contra Hamas

El ejército judío atacó el centro de la ciudad con el objetivo de "eliminar amenazas"

Efe

Israel cruza la línea amarilla en Gaza por una operación contra Hamas

El león del Vaticano zurce la paz [parte II]

El Papa León XIV enfrenta desafíos internos y externos con esperanza y compromiso social en América Latina

Margarita Robleda Moguel

El león del Vaticano zurce la paz [parte II]