OpenAI enfrenta investigación en varias entidades de Estados Unidos por posible daño a usuarios

Señalan a la empresa detrás de ChatGPT porque la herramienta alentaría a los usuarios a suicidarse
Foto: Ap

OpenAI recibió una citación de varios estados como parte de una investigación sobre la seguridad de los usuarios de su chatbot, mientras se prepara para ofrecer acciones al público por primera vez.

La empresa detrás del popular chatbot ChatGPT indicó que responderá a la investigación “de manera constructiva” y que ya cuenta con medidas para proteger a sus clientes.

“La IA es una tecnología nueva y poderosa, y trabajamos todos los días para llevar sus beneficios a las personas de forma segura y responsable”, señaló un portavoz en un comunicado enviado por correo electrónico. “Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales”.

OpenAI ha recibido críticas porque, presuntamente, ChatGPT ofreció palabras de aliento a usuarios que pensaban en suicidarse o en cometer actos delictivos. También ha sido objeto de escrutinio por la forma en que utiliza datos de salud y otra información personal de sus clientes.

El jueves, la empresa fue demandada por una canadiense que culpa al chatbot de la decisión de su hija de ahorcarse. A principios de junio, el fiscal general de Florida demandó a la empresa tras dos tiroteos separados en los que se informó que los presuntos atacantes habían hecho preguntas a ChatGPT mientras planeaban sus delitos.


OpenAI señaló en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluido el de profesionales de la salud mental. La empresa también afirmó que cooperó con las fuerzas del orden en ambos casos de tiroteos.

La nueva investigación llega apenas unos días después de que la empresa presentara documentos ante los reguladores de valores de Estados Unidos para una muy esperada oferta pública inicial de acciones. El rival de inteligencia artificial SpaceX celebró su propia oferta pública inicial el viernes. El fabricante de cohetes fundado por Elon Musk también opera un negocio de IA responsable de un chatbot rival llamado Grok.

La manera en que los gobiernos deberían responder al potencial de beneficios y a los posibles peligros de la IA se está convirtiendo en un gran tema político.

Organismos reguladores de Europa abrieron investigaciones sobre Grok, de Musk, por contenido antisemita y material sexualizado, incluidos desnudos deepfake. Y Anthropic, otra empresa de chatbots que se prepara para una oferta pública inicial, recibió el viernes instrucciones del gobierno de Trump para cerrar dos de sus modelos en línea a usuarios en el extranjero por razones de seguridad nacional.

La citación a OpenAI fue reportada anteriormente por The Wall Street Journal.

El sábado, The Associated Press envió correos electrónicos a una docena de fiscales generales estatales para pedir detalles de la investigación, pero no ha recibido respuestas.

En su comunicado, OpenAI destacó medidas que ha tomado para mantener a salvo a los niños que usan su chatbot.

“El ChatGPT de hoy incluye una experiencia más protectora para los menores y las personas que atraviesan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y a contactos humanos de confianza”, se indica en una parte del comunicado. “Creemos que a los niños se les debe tratar como niños, por eso incorporamos predicción de edad, lanzamos herramientas para padres para orientar el uso de la IA por parte de sus hijos y prohibimos la publicidad dirigida a menores”.

Sigue leyendo:

Edición: Fernando Sierra


Lo más reciente

OpenAI enfrenta investigación en varias entidades de Estados Unidos por posible daño a usuarios

Señalan a la empresa detrás de ChatGPT porque la herramienta alentaría a los usuarios a suicidarse

Ap

OpenAI enfrenta investigación en varias entidades de Estados Unidos por posible daño a usuarios

Profepa rescata a mono saraguato en Quintana Roo; estaba amarrado a un block y en condiciones indignas

Un hombre encontró al espécimen mientras trabajaba en cultivos de caña

La Jornada

Profepa rescata a mono saraguato en Quintana Roo; estaba amarrado a un block y en condiciones indignas

Vinicius Jr rescata a Brasil, que mantiene empate 1-1 con Marruecos en Mundial 2026

A los 21 minutos Ismael Saibari abrió el marcador para el equipo africano

La Jornada

Vinicius Jr rescata a Brasil, que mantiene empate 1-1 con Marruecos en Mundial 2026

Festejo del Día del Padre dejará derrama de 48.5 mil mdp: Concanaco

Prevén un gasto promedio por hogar de 2 mi 200 pesos

Alejandro Alegría

Festejo del Día del Padre dejará derrama de 48.5 mil mdp: Concanaco