Anthropic se asocia a consultora Accenture para evaluar seguridad de sus modelos de IA

La start‑up californiana considera que, a largo plazo, la revisión debería ser financiada por el Estado o por un fondo específico
Foto: Afp

Anthropic dijo el viernes que se asoció a la consultora Accenture para evaluar la seguridad de sus modelos de inteligencia artificial (IA), con miras a cumplir la promesa del director ejecutivo Dario Amodei de que observadores independientes evalúen los modelos más potentes de la compañía.

Aunque la start‑up californiana considera que, a largo plazo, la revisión independiente de la IA debería ser financiada por el Estado o por un fondo específico, "dada la importancia y la urgencia de este trabajo", a corto plazo remunerará a Accenture por esta misión.

Anthropic prevé destinar al menos mil millones de dólares a la evaluación de su IA en los próximos cinco años.

Accenture también planea invertir una suma equivalente en esta actividad durante el mismo periodo.

Como prometió Amodei, Anthropic dará a los consultores de Accenture los mismos accesos a sus sistemas que a sus propios empleados, según un comunicado.

Estos profesionales proceden de Faculty, la filial de Accenture dedicada a la IA, una empresa adquirida este año por el grupo de consultoría.

"Los evaluadores integrados pueden observar cómo funciona una empresa, comprobar que cumple realmente sus compromisos en materia de seguridad y señalar puntos ciegos", explicó Anthropic.

"También pueden informar de incidentes y ofrecer una rendición de cuentas mejor documentada sobre los beneficios y los riesgos", añadió el creador de la familia de IA Claude.

Anthropic asegura que se trata de una colaboración no exclusiva y prevé anunciar "en las próximas semanas" acuerdos con otros evaluadores externos.

La empresa mencionó en particular conversaciones con la consultora METR, especializada en la identificación de riesgos asociados a los modelos de IA.

Este proveedor es, entre otras cosas, responsable de un informe detallado sobre el incidente ocurrido en OpenAI en julio, durante el cual dos modelos salieron de su entorno para conectarse a internet e irrumpir en varios sitios y plataformas.

Edición: Emilio Gómez


Lo más reciente

Entregan galardón Amexme a la Mujer Empresaria del Año 2026 en Playa del Carmen

La alcaldesa Estefanía Mercado participó en el evento para reconocer a Mónica Tello

La Jornada Maya

Entregan galardón Amexme a la Mujer Empresaria del Año 2026 en Playa del Carmen

Relacionistas públicos de QRoo comparten conocimientos y experiencia en encuentro internacional

El evento busca articular redes de colaboración y elevar los estándares de la industria

Ana Ramírez

Relacionistas públicos de QRoo comparten conocimientos y experiencia en encuentro internacional

Realizan concurso de K-pop en Carmen, Campeche

La estrategia busca prevenir la violencia desde el origen impulsando acciones recreativas

La Jornada Maya

Realizan concurso de K-pop en Carmen, Campeche

Denuncia Siempre Unidas deterioro en seguridad de las mujeres en Quintana Roo

Colectivo reporta aumento de violencia machista sin una respuesta efectiva del gobierno

Ana Ramírez

Denuncia Siempre Unidas deterioro en seguridad de las mujeres en Quintana Roo