Reino Unido pide a Musk acciones urgentes para frenar ‘deepfakes’ sexuales de niños en X

La ministra de Tecnología del Reino Unido, Liz Kendall, pidió este martes al magnate tecnológico Elon Musk y su red social X tomar acciones urgentes para frenar el uso de Grok, la inteligencia artificial de la plataforma, que en los últimos días ha sido utilizada para crear imágenes deepfake sexualizadas de menores.

Kendall se suma así al llamamiento del regulador de comunicación británico (Ofcom), que expresó "serias preocupaciones" sobre una de las funciones de Grok que generaba "imágenes de personas con poca ropa e imágenes sexualizadas de niños".

"Lo que hemos visto en línea en los últimos días ha sido absolutamente espantoso e inaceptable en una sociedad decente. Nadie debería pasar la experiencia de ver deepfakes íntimos suyos en internet", dijo Kendall en un comunicado difundido por medios británicos.

"No permitiremos la proliferación de estas imágenes humillantes y degradantes que se dirigen de manera desproporcionada a las mujeres y las niñas. X debe abordar esta cuestión con urgencia", añadió la ministra, que reiteró su apoyo a Ofcom ante posibles medidas coercitivas que pueda considerar necesarias contra la red social.

Una publicación en la cuenta de Grok en X admitió que existían casos "aislados" en los que los usuarios generaron imágenes de inteligencia artificial en las que aparecían "menores con escasa ropa" y agregó que estaba trabajando para bloquear este tipo de peticiones por completo.

En este sentido, Kendall reiteró la obligación de los operadores de actuar adecuadamente y recordó que, bajo la reciente Ley de Seguridad en Internet (Online Safety Act) británica, los delitos como el abuso de imágenes íntimas y el ciberexhibicionismo están tipificados, aunque estén hechos con IA, y las plataformas deben evitar su publicación o eliminarlas con rapidez si aparecen.

Este domingo, el propio Musk advirtió en X que cualquiera que use Grok para generar "contenido ilegal" sufrirá las mismas consecuencias que si publicasen un contenido tipificado como tal, después de haber minimizado el problema en un primer momento.

Al hilo de esta publicación del magnate, la cuenta oficial de Seguridad en X aseguró que están tomando medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil, "eliminándolo, suspendiendo cuentas de forma permanente y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario".

Edición: Ana Ordaz