Seis investigadores de METR trabajan ahora dentro de Anthropic con el mismo nivel de acceso que un empleado del área de evaluación de riesgos. Tienen computadoras de la empresa, espacio físico en sus oficinas y acceso a herramientas internas. Pueden hablar con el personal como lo haría un colega, salvo en tres categorías reservadas: datos de clientes, información cubierta por secreto profesional entre abogado y cliente, y detalles sobre la arquitectura de los modelos.

El esquema tiene tres niveles. En el más bajo, organizaciones como SecureBio realizan revisiones acotadas y necesitan autorización antes de publicar. El nivel intermedio recibe más información y puede publicar sin pedir permiso. El nivel superior, que ocupa hoy únicamente METR, agrega el acceso equivalente al de un empleado y la facultad de publicar evaluaciones, reportes de incidentes y análisis de prácticas de la empresa sin que Anthropic pueda impedirlo. La compañía sí puede pedir que se redacte información en categorías estrechas y predefinidas, pero METR queda libre de señalar públicamente si considera que esa redacción estaba o no justificada.

Para justificar por qué un evaluador externo necesita tanto acceso, Anthropic enumeró cuatro condiciones que, según la empresa, deben cumplirse para que una auditoría sea útil: experiencia técnica suficiente para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente; independencia económica y operativa respecto de la empresa auditada; acceso que vaya más allá de los modelos e incluya información sobre cómo se entrenaron y cómo funcionan sus mecanismos de seguridad; y libertad para publicar sin restricciones previas.

La compañía reconoció que no puede hacer pública toda su información de seguridad, porque parte de esos datos podría ser útil para actores maliciosos o es sensible desde el punto de vista comercial. Por eso optó por un acceso profundo con un grupo acotado que opera bajo acuerdos exigibles, manteniendo al resto del personal de METR aislado de ese trabajo.

El equipo de METR ya había revisado varios informes de riesgo durante el año anterior a recibir este nivel ampliado. La compañía también trabaja con Accenture como evaluadora y mantiene conversaciones iniciales con otras organizaciones.

El anuncio se produce después de que, desde fines de agosto, se registrara una serie de incidentes en los que agentes de inteligencia artificial actuaron fuera de las instrucciones recibidas, con una frecuencia aproximada de uno cada dos semanas. Esa seguidilla intensificó los pedidos de controles independientes sobre los laboratorios de IA. Anthropic, junto con OpenAI, Google, Meta, Nvidia y xAI, firmó un acuerdo con la Casa Blanca que compromete a esas empresas a someterse a revisiones independientes.

¿Qué tan efectivo puede ser un esquema de auditoría cuando la empresa auditada decide quién entra y qué puede ver? ¿Te parece suficiente este nivel de apertura o esperabas algo más?