OpenAI enfrenta investigación en varias entidades de Estados Unidos por posible daño a usuarios

Señalan a la empresa detrás de ChatGPT porque la herramienta alentaría a los usuarios a suicidarse
Foto: Ap

OpenAI recibió una citación de varios estados como parte de una investigación sobre la seguridad de los usuarios de su chatbot, mientras se prepara para ofrecer acciones al público por primera vez.

La empresa detrás del popular chatbot ChatGPT indicó que responderá a la investigación “de manera constructiva” y que ya cuenta con medidas para proteger a sus clientes.

“La IA es una tecnología nueva y poderosa, y trabajamos todos los días para llevar sus beneficios a las personas de forma segura y responsable”, señaló un portavoz en un comunicado enviado por correo electrónico. “Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales”.

OpenAI ha recibido críticas porque, presuntamente, ChatGPT ofreció palabras de aliento a usuarios que pensaban en suicidarse o en cometer actos delictivos. También ha sido objeto de escrutinio por la forma en que utiliza datos de salud y otra información personal de sus clientes.

El jueves, la empresa fue demandada por una canadiense que culpa al chatbot de la decisión de su hija de ahorcarse. A principios de junio, el fiscal general de Florida demandó a la empresa tras dos tiroteos separados en los que se informó que los presuntos atacantes habían hecho preguntas a ChatGPT mientras planeaban sus delitos.


OpenAI señaló en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluido el de profesionales de la salud mental. La empresa también afirmó que cooperó con las fuerzas del orden en ambos casos de tiroteos.

La nueva investigación llega apenas unos días después de que la empresa presentara documentos ante los reguladores de valores de Estados Unidos para una muy esperada oferta pública inicial de acciones. El rival de inteligencia artificial SpaceX celebró su propia oferta pública inicial el viernes. El fabricante de cohetes fundado por Elon Musk también opera un negocio de IA responsable de un chatbot rival llamado Grok.

La manera en que los gobiernos deberían responder al potencial de beneficios y a los posibles peligros de la IA se está convirtiendo en un gran tema político.

Organismos reguladores de Europa abrieron investigaciones sobre Grok, de Musk, por contenido antisemita y material sexualizado, incluidos desnudos deepfake. Y Anthropic, otra empresa de chatbots que se prepara para una oferta pública inicial, recibió el viernes instrucciones del gobierno de Trump para cerrar dos de sus modelos en línea a usuarios en el extranjero por razones de seguridad nacional.

La citación a OpenAI fue reportada anteriormente por The Wall Street Journal.

El sábado, The Associated Press envió correos electrónicos a una docena de fiscales generales estatales para pedir detalles de la investigación, pero no ha recibido respuestas.

En su comunicado, OpenAI destacó medidas que ha tomado para mantener a salvo a los niños que usan su chatbot.

“El ChatGPT de hoy incluye una experiencia más protectora para los menores y las personas que atraviesan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y a contactos humanos de confianza”, se indica en una parte del comunicado. “Creemos que a los niños se les debe tratar como niños, por eso incorporamos predicción de edad, lanzamos herramientas para padres para orientar el uso de la IA por parte de sus hijos y prohibimos la publicidad dirigida a menores”.

Sigue leyendo:

Edición: Fernando Sierra


Lo más reciente

Quintana Roo destaca en crecimiento en el uso de energía solar

La entidad está 4.35 por ciento arriba del promedio del país

Ana Ramírez

Quintana Roo destaca en crecimiento en el uso de energía solar

Aqua Aerobics Inclusión, programa que procura el bienestar de las personas adultas mayores en Playa del Carmen

Realizan la actividad deportiva todos los viernes en la Unidad Deportiva Riviera Maya

La Jornada Maya

Aqua Aerobics Inclusión, programa que procura el bienestar de las personas adultas mayores en Playa del Carmen

Mérida alcanza histórica calificación crediticia máxima de HR Ratings

Cecilia Patrón resaltó que la categoría AAA avala la solidez financiera capitalina y la gestión eficiente

La Jornada Maya

Mérida alcanza histórica calificación crediticia máxima de HR Ratings

La FIFA investigará a Argentina tras los incidentes al final del partido

La pelea después del partido terminó con Leandro Paredes expulsado

Efe

La FIFA investigará a Argentina tras los incidentes al final del partido