Líderes de IA advierten a ONU de riesgos para seguridad mientras sistemas se vuelven más potentes

"Si se gestiona mal, incluso podría suponer un riesgo para la humanidad: CEO de Anthropic
Foto: Afp

Directivos de tres de las principales empresas de inteligencia artificial del mundo informaron este miércoles al Consejo de Seguridad de la ONU, en medio de advertencias, que los sistemas de IA, cada vez más potentes, podrían pronto mejorar por sí mismos, escapar al control humano y suponer una amenaza para la seguridad internacional.

Entre quienes se dirigieron al Consejo, compuesto por 15 miembros, durante la reunión anual de la Asamblea General se encontraban el director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de Anthropic, Dario Amodei, y el cofundador de Hugging Face, Clément Delangue, tres de los ejecutivos más destacados del sector.

"Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto", declaró Amodei, de Anthropic, ante el Consejo de Seguridad.

Los gobiernos se han enfrentado al reto de cómo supervisar unos sistemas de IA que avanzan más rápido de lo que los reguladores pueden seguir el ritmo, mientras que Estados Unidos y China —los dos actores dominantes en el desarrollo de la IA— siguen divididos sobre si la tecnología necesita medidas de control globales o si debe dejarse en gran medida en manos de las fuerzas del mercado.

"Para que la IA sea democrática, las decisiones más importantes no pueden tomarlas únicamente los laboratorios de San Francisco. Deben configurarse mediante procesos democráticos y por gobiernos que rindan cuentas ante las personas a las que sirven", declaró Altman ante el Consejo. "A nivel internacional, esto requerirá cooperación".

"A lo largo de nuestra historia, ha habido momentos en los que países que compiten entre sí -y que no siempre se caen muy bien- se han unido por intereses comunes y por el bien colectivo ante una nueva tecnología poderosa. Creemos que este debe ser uno de esos momentos", afirmó.

Yoshua Bengio, un canadiense considerado uno de los "padrinos de la IA" y copresidente del Panel Científico Internacional Independiente —creado por la Asamblea General de la ONU el año pasado—, declaró ante el Consejo de Seguridad: "Los peligros son reales e inminentes".

"Este Consejo se enfrenta a una amenaza sin precedentes, una que ninguno de sus miembros elegiría, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos", señaló.


Los miembros del Consejo, entre los que se encontraban Estados Unidos y China —principales rivales en materia de IA—, también tenían previsto intervenir. El ministro de Asuntos Exteriores francés, Jean-Noël Barrot, presidió la reunión.

Países piden regulación

En el mismo marco de la ONU, los líderes de más de 20 países instaron a adoptar medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada, al advertir que el desarrollo de esta tecnología podría avanzar más rápido que la capacidad de controlarla.

El grupo citó casos recientes de programas de IA que eludieron salvaguardias de prueba y obtuvieron acceso no autorizado a sistemas del mundo real, como en la muy publicitada intrusión de dos modelos de OpenIA en Hugging Face.

Entre los firmantes figuran los líderes de Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia, así como la presidenta de la Comisión Europea, Ursula von der Leyen. Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo, por ahora. La declaración sigue abierta a la adhesión de otros mandatarios.

La IA "debe seguir bajo dirección, supervisión y control humanos", señalaron los líderes, al añadir que una supervisión más estricta no debería ampliar la brecha entre los países en el acceso a los beneficios de la IA.


Trump quiere fomentar la IA, no frenarla

Antes de la reunión entre el presidente estadunidense, Donald Trump, y el líder chino, Xi Jinping, que tendrá lugar este jueves en Washington, Estados Unidos y China han debatido la creación de un sistema de notificación de objetivos y amenazas comunes que abarque los incidentes relacionados con la IA que alcancen un nivel de seguridad nacional.

Trump declaró el martes que "rechaza cualquier intento de construir un plan globalista para controlar" la IA, calificando la tecnología de "asombrosa", pero señaló que Estados Unidos actuaría con cautela.

"Ahora mismo llevamos una gran ventaja sobre China y sobre todos los demás, y vamos a mantener esa situación", afirmó Trump. "No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial".

"Vamos a fomentarla, no a frenarla. La supervisaremos de cerca a través del Departamento de Justicia", añadió.

El secretario general de la ONU, António Guterres, que lleva mucho tiempo abogando por una gobernanza global de la IA, ha advertido de que los rápidos avances de la inteligencia artificial plantean riesgos que no pueden ignorarse, lo que le sitúa en desacuerdo con Trump.


Te puede interesar:

Edición: Mirna Abreu


Lo más reciente

La Iglesia busca fortalecer lazos matrimoniales en Cancún este 11 de octubre

El evento ofrecerá conferencias, testimonios y actividades dirigidas a parejas

Ana Ramírez

La Iglesia busca fortalecer lazos matrimoniales en Cancún este 11 de octubre

Líderes de IA advierten a ONU de riesgos para seguridad mientras sistemas se vuelven más potentes

"Si se gestiona mal, incluso podría suponer un riesgo para la humanidad: CEO de Anthropic

Reuters

Líderes de IA advierten a ONU de riesgos para seguridad mientras sistemas se vuelven más potentes

El presidente de Irán advierte a Trump que su país nunca ''se arrodillará''

Masud Pezeshkian acusó a EU de ''terrorismo'' por el asesinato del antiguo líder supremo

Afp

El presidente de Irán advierte a Trump que su país nunca ''se arrodillará''

Quintana Roo cerrará su segundo semestre de 2026 con 10 millones de turistas

El año pasado el estado registró cerca de 20 millones de visitantes de pernocta

Miguel Améndola

Quintana Roo cerrará su segundo semestre de 2026 con 10 millones de turistas