La UE estudia prohibir la IA para la vigilancia masiva

Tecnologías que valoran a las personas de forma predictiva tendrán regulaciones
Foto: Afp

La Unión Europea (UE) prepara un borrador para regular los usos permitidos de los mecanismos de Inteligencia Artificial (IA), y en él establece prohibiciones para usos como los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva, mientras que los sistemas de alto riesgo pasarán a tener una mayor supervisión.

Así se extrae de un borrador elaborado por organismos comunitarios europeos al que ha tenido acceso The Verge, filtrado en Internet pero que se espera que sea anunciado oficialmente la próxima semana.

La nueva regulación contempla que los Estados miembros de la UE deberán constituir un consejo asesor común, integrado por expertos y dedicado a validar los sistemas de IA considerados de alto riesgo.

El borrador también establece que las compañías que comercialicen sistemas de IA prohibidos en la UE, aunque tengan su base en otras partes del mundo, podrán enfrentarse a multas que podrían llegar hasta el 4 por ciento de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD).

 

Tipos de IA prohibiros y regulados

Entre los tipos de sistemas de IA prohibidos por la UE se incluirán los de "vigilancia indiscriminada" de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistemas.

La Unión también estudia vetar las tecnologías de IA que hacen valoraciones sociales de las personas, y que por ejemplo realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.

Asimismo, la UE establece en su borrador varios tipos de IA que pasan a estar sujetos a una mayor regulación, como es el caso de los sistemas considerados de "alto riesgo", entre los que se enmarcan todos ellos que puedan suponer un riesgo para la seguridad física, como los sistemas de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros. 

En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana y que los sistemas no se hayan entrenado con datos sesgados, según contempla el borrador.

De estar tarea se encargará un nuevo organismo, denominado 'Consejo Europeo de Inteligencia Artificial', que se espera que esté integrado por expertos en IA de todos los países miembros de la UE, que decidirán qué sistemas se consideran de alto riesgo y posibles cambios de regulación.

El borrador de la UE menciona también a los sistemas de reconocimiento facial en espacios públicos, para los que pasará a exigirse una autorización especial, mientras que también se requerirá que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte "obvio por el contexto de uso".

 

Edición: Laura Espejo


Lo más reciente

Los Cachorros, a los playoffs de la MLB por primera vez desde 2020

Filadelfia y Milwaukee también ya están en la postemporada

La Jornada Maya

Los Cachorros, a los playoffs de la MLB por primera vez desde 2020

México se convierte en el principal destino de quienes huyen por violencia: Acnur

El país superó a Estados Unidos, que entre 2022 y 2024, ocupó el primer lugar

La Jornada

México se convierte en el principal destino de quienes huyen por violencia: Acnur

Aún sin identificar, dos víctimas de explosión de pipa en Iztapalapa

FGJ priorizará reparación de daño a familias afectadas en el accidente

La Jornada

Aún sin identificar, dos víctimas de explosión de pipa en Iztapalapa

Gobierno de Yucatán dialoga con director general de Nafin y Bancomext en favor de atraer inversión al estado

El encuentro busca fortalecer las cadenas productivas y la internacionalización de las empresas locales

La Jornada Maya

Gobierno de Yucatán dialoga con director general de Nafin y Bancomext en favor de atraer inversión al estado