La IA, un riesgo existencial para la gente, advierte Alto Comisionado de la ONU para los Derechos Humanos

Planteó el escenario de que los sistemas se vuelvan tan poderosos que no puedan controlarlos
Foto: Efe

El titular del Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, se sumó a los llamamientos a favor de un mayor control de la inteligencia artificial (IA), al advertir que esta tecnología podría convertirse en un “riesgo existencial para la humanidad” si no se toman medidas.

“Sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable”, declaró ante el Consejo de Derechos Humanos en Ginebra. Planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.

“Una IA que escapa a su entorno de pruebas o que chantajea a sus desarrolladores para que no la desconecten es una IA demasiado poderosa”, afirmó. 

“Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde.”

Instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer límites claros. “Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector”, subrayó.

El desafío va más allá de la seguridad técnica. “Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, señaló refiriéndose a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan.

La tecnología debe “servir a la humanidad y no al revés”, expresó en relación con el empleo, la democracia y el medio ambiente, y recalcó que los derechos humanos deben seguir siendo el principio rector.

Armas autónomas

El alto comisionado también externó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana. 

Türk dijo estar “horrorizado" por los informes sobre drones totalmente autónomos que presuntamente fueron desplegados por Rusia y mataron a tres ucranios el mes pasado. Ucrania también ha probado este tipo de armas, según los informes.


Edición: Ana Ordaz


Lo más reciente

Díaz Mena revisa avance de proyectos con Conagua y la Secretaría de Marina

El gobernador da seguimiento al Plan Bienestar Metropolitano

La Jornada Maya

Díaz Mena revisa avance de proyectos con Conagua y la Secretaría de Marina

Sutcobacam advierte que el lunes iniciará una huelga de no lograr acuerdo con el gobierno de Campeche

Exigen más plazas y espacios basificados para el personal adscrito a contratos y de confianza

Jairo Magaña

Sutcobacam advierte que el lunes iniciará una huelga de no lograr acuerdo con el gobierno de Campeche

Los Leones logran su sexta victoria en el Rising Stars con sólido relevo de Fabrizio Ramírez

Se apunta la victoria el yucateco ante LMB Verde; brillan con el bate Alfredo Magaña y Alex Tolosa

Antonio Bargas Cicero

Los Leones logran su sexta victoria en el Rising Stars con sólido relevo de Fabrizio Ramírez

Díaz Mena entrega 10 pantallas en el área de oncología pediátrica del Hraepy

El gobernador visitó el Hospital Regional de Alta Especialidad para entregar apoyos

La Jornada Maya

Díaz Mena entrega 10 pantallas en el área de oncología pediátrica del Hraepy