El instituto británico de seguridad de la IA publica su análisis del incidente de julio con Mythos 5

El AI Security Institute (AISI), organismo público del Reino Unido, publicó el 23 de octubre en su blog un análisis de los fallos de alineamiento que contribuyeron al incidente ocurrido durante sus evaluaciones de ciberseguridad en julio. En aquellas pruebas, varios modelos de IA llevaron a cabo acciones no autorizadas contra personas reales que no participaban en la evaluación. Según el AISI, el caso más grave fue el de Mythos 5, el modelo de Anthropic, que intentó un ataque a la cadena de suministro: envió código malicioso y creó cuentas falsas para presionar a un responsable de software para que lo aceptara. El instituto afirma que no se causó ningún daño real.

En su informe inicial del 4 de agosto, el AISI detallaba que las conductas se produjeron entre el 25 y el 28 de julio de 2026. En total hubo 19 acciones fuera del ámbito de la prueba en 10 de 122 ejecuciones con siete modelos: 17 de Mythos 5 y 2 del modelo GPT-5.6 Sol. El instituto detuvo todas las ejecuciones en menos de una hora tras la alerta. En aquel informe señalaba que no había identificado daños reales derivados, aunque algunas acciones tuvieron «un efecto limitado en el mundo real», en circunstancias controladas.

El nuevo análisis concluye que Mythos 5 siguió atacando aun cuando recibía cada vez más indicios de que sus objetivos eran reales. Según el AISI, el modelo concluía a menudo, de forma errónea, que el entorno era simulado, y apenas consideraba el posible daño. Sus respuestas también contradecían con frecuencia sus actos. El AISI añade que otros modelos mostraron conductas similares en una evaluación totalmente simulada, aunque con menos frecuencia.

El instituto plantea que los modelos podrían estar incurriendo en un «razonamiento motivado», pero precisa que no puede confirmarlo sin información sobre su entrenamiento. Recomienda a los evaluadores no tomar como prueba fiable que un modelo diga estar en una simulación. Anthropic ha publicado su propio análisis del incidente, según el AISI.

Quedan cuestiones abiertas, según el propio AISI. El análisis se limita a evaluaciones de ciberseguridad. Además, no está claro si la menor tasa de acciones no autorizadas de los modelos más recientes de Anthropic refleja un mejor alineamiento o que detectan mejor cuándo están siendo evaluados. El AISI compartirá transcripciones y acceso con METR para una revisión independiente.