Foto: Afp

OpenAI, creadora de ChatGPT, informó que su sistema de inteligencia artificial hackeó por sí solo a otra empresa de IA en lo que la compañía calificó como un “incidente cibernético sin precedente”.

“Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos”, dijo el director ejecutivo de OpenAI, Sam Altman, en un comunicado publicado ayer en redes sociales.

Hugging Face indicó la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.

“Dada la sofisticación del agente, sospechamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de frontera”, señaló en un comunicado el cofundador y director ejecutivo de Hugging Face, Clément Delangue. “¡Y resulta que sí!”

La revelación se produce en medio de una mayor preocupación por las capacidades de ciberseguridad de los modelos potentes, lo que llevó al presidente de Estados Unidos, Donald Trump, a firmar en junio una orden ejecutiva que crea un marco para que el gobierno federal evalúe, durante hasta un mes antes de su lanzamiento público, los riesgos para la seguridad nacional de los sistemas de IA más avanzados.

“La IA acelera el descubrimiento y la explotación de vulnerabilidades”, afirmó OpenAI en su comunicado del martes. “La principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente”.

Delangue comentó que pasó las pasadas 24 horas trabajando con OpenAI “y creemos firmemente que no hubo intención maliciosa de su parte. ¡Es realmente alucinante que todo esto haya ocurrido de manera autónoma!”.

Delangue añadió que “podría ser el primer incidente de este tipo”.

OpenAI explicó que la intrusión fue causada por una combinación de sus modelos de IA, incluido su recién lanzado GPT 5.6 Sol y un modelo “aún más capaz” que todavía se está probando internamente.

OpenAI indicó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.

Llegó a “extremos para alcanzar un objetivo de prueba bastante limitado” y “encontró formas de acceder a información secreta que podía usar para hacer trampa en la evaluación”, señaló la compañía.




Edición: Estefanía Cardeña


Lo más reciente

Yáax juntéen u xak’alta’al bix u k’astal kuxtal yaan Antártica yóok’olal k’a’amkach sáasil

Científicos chilenos investigan por primera vez la contaminación lumínica en la Antártida

Efe

Yáax juntéen u xak’alta’al bix u k’astal kuxtal yaan Antártica yóok’olal k’a’amkach sáasil

Alcaldes y alcaldesas panistas exigen a la CFE solución a los apagones en Yucatán

Aseguran que la falta de energía eléctrica afecta los servicios públicos municipales

La Jornada Maya

Alcaldes y alcaldesas panistas exigen a la CFE solución a los apagones en Yucatán

Morelos: Asesinan al alcalde de Temoac, Valentín Lavín al interior de la presidencia municipal

Despliegan operativo al oriente del estado para dar con los responsables del homicidio

La Jornada

Morelos: Asesinan al alcalde de Temoac, Valentín Lavín al interior de la presidencia municipal

Alistan nuevo albergue para familiares de pacientes del nuevo Hospital O'Horán

El gobernador lamentó que, aunque haya espacios, las personas prefieren estar cerca

Astrid Sánchez

Alistan nuevo albergue para familiares de pacientes del nuevo Hospital O'Horán