Que la IA haga cosas por su cuenta es algo que algunos vieron venir, pero no por ello deja de sorprender. Ahora ha sido la empresa Anthropic la que ha reconocido que varios modelos accedieron sin autorización a la infraestructura de tres organizaciones durante unas pruebas internas de ciberseguridad.
Los incidentes se produjeron después de que OpenAI revelara un caso parecido en el que uno de sus agentes consiguió conectarse a Internet y entrar en Hugging Face. El caso sigue en revisión, aunque sí han trascendido detalles clave de la operativa usada por la IA para entrar sin permiso en estas empresas.
La IA disfrazada de hacker
Todo ha formado parte de un ejercicio habitual con el que las empresas suelen entrenar a sus modelos. En este caso, quisieron comprobar si sus modelos Claude habían tenido acceso a Internet cuando no debían tenerlo. El resultado fue que, en tres ocasiones, los sistemas salieron del entorno de pruebas y entraron en redes reales de organizaciones ajenas al experimento.
El ejercicio en cuestión era una especie de “captura la bandera”, una prueba habitual en ciberseguridad. El objetivo era encontrar una información secreta, conocida como bandera, escondida en otro equipo dentro de la red interna de Anthropic. Para lograrlo, tenían permiso para intentar entrar en una máquina concreta y recuperar ese dato. El problema es que los modelos no estaban aislados de Internet, pese a que las instrucciones indicaban lo contrario.
Cuando encontraron sistemas externos accesibles, interpretaron que formaban parte del ejercicio y trataron de acceder a ellos. Anthropic aclara que no intentaron escapar deliberadamente del entorno, sino que actuaron a partir de una configuración equivocada.
Un fallo humano con consecuencias reales
Al parecer, la causa principal fue un malentendido entre Anthropic y su socio encargado de colaborar en la evaluación. Los modelos recibieron la orden de asumir que no podían conectarse a Internet, pero esa restricción no estaba aplicada correctamente.
Esto permitió que Opus 4.7, el modelo orientado a ciberseguridad Mythos 5 y un prototipo que no está previsto lanzar al público encontraran caminos hacia redes externas. En lugar de detenerse de inmediato, algunos continuaron con la tarea que creían estar realizando.
¿Cómo lograron entrar?
Según Anthropic, los modelos no utilizaron técnicas sofisticadas. Aprovecharon contraseñas débiles para acceder a los sistemas de las organizaciones afectadas. Es decir, la IA no accedió a un sistema inexpugnable, sino que aprovechó los fallos típicos que cualquier humano con conocimientos básicos también puede hacer.
La compañía explica que el modelo más reciente se detuvo al detectar que se encontraba en Internet. Sin embargo, un modelo más antiguo siguió atacando el sistema de una de las organizaciones después de identificar esa situación.
Las empresas afectadas por el hackeo
Anthropic ha detallado que, de las tres organizaciones afectadas, dos desconocían el acceso no autorizado hasta recibir el aviso de la compañía. La tercera organización todavía no habría sido localizada por Anthropic.
La empresa no ha identificado públicamente a las afectadas ni ha detallado qué información pudieron ver los modelos durante los accesos. Es una manera de proteger su privacidad y, por supuesto, de no comprometer la seguridad de las empresas.
La investigación sigue en curso y se espera que Anthropic aporte detalles más concretos en las próximas semanas.
