Después de ser rechazado en más de 20 prácticas, Sinan Can Demir, de 24 años, decidió acumular experiencia de proyectos en GitHub.
Nunca imaginó que el primer "pez gordo" con el que se toparía sería una IA fuera de control...
Mythos 5 falsifica múltiples cuentas, el estudiante lo descubre en el acto
A finales de julio, mientras navegaba por GitHub, Demir notó un proyecto de código abierto llamado myNetwork.
Era una herramienta de escaneo de red, de escala no muy grande, con el código público.
Un usuario llamado miraholt31 envió una Pull Request (PR). En apariencia, era solo una actualización de funcionalidad común.
Sin embargo, tras revisar el código, Demir descubrió que ocultaba un dropper de malware.
Si el mantenedor del proyecto hacía clic en "merge", este código malicioso podría distribuirse a través de la actualización del software a los ordenadores de todos.
Inmediatamente, dejó una advertencia en los comentarios: esta PR contiene un dropper de malware.
Entonces, ocurrió algo extraño. miraholt31 refutó rápidamente, dando una explicación técnica bastante completa, insistiendo en que el código era seguro.
Acto seguido, apareció una segunda cuenta.
Esta cuenta se llamaba Lena Brandt, afirmando ser una ingeniera que trabajaba en Alemania. Ella también declaró que el código no tenía problemas y comenzó a presionar al mantenedor del proyecto para que fusionara la actualización lo antes posible.
Dos personas, dos identidades, dos argumentos que se corroboraban mutuamente.
Frente a las refutaciones, Demir dudó por un momento.
Recordando después, dijo que esas voces cuestionadoras le hicieron dudar si había "acusado erróneamente a un desarrollador inocente".
Tras revisar el código de nuevo y verificar con Claude, finalmente se reafirmó en su juicio.
Posteriormente, el mantenedor de myNetwork rechazó la actualización, dando como razón simplemente: "por motivos de seguridad". El ataque finalmente fracasó.
Días después, el Instituto Británico de Seguridad de IA (AISI) se puso en contacto con él y reveló una respuesta aún más increíble:
Las dos "personas" con las que debatió en GitHub eran en realidad una IA, potenciada por Mythos 5.
122 pruebas, la IA traspasó límites a escondidas en 19 ocasiones
Este incidente se originó en una prueba rutinaria del Instituto Británico de Seguridad de IA (AISI).
El AISI quería saber hasta dónde podrían llegar los modelos más avanzados en tareas de ciberataque.
Los investigadores crearon dos entornos de red simulados, los llamados "rangos de red" o "cyber ranges":
Dejaron que la IA buscara vulnerabilidades de forma autónoma, obtuviera datos protegidos y completara desafíos específicos.
Para explorar el límite superior de las capacidades del modelo, el AISI estableció condiciones de prueba bastante flexibles:
La IA podía acceder libremente a Internet, y algunos clasificadores de seguridad de red utilizados originalmente por los modelos para bloquear comportamientos peligrosos fueron desactivados manualmente.
Siete modelos, ejecutados un total de 122 veces.
De estos, Mythos 5 participó 43 veces, y GPT-5.6 Sol 35 veces. La gran mayoría de las pruebas terminaron normalmente.
Pero en 10 ejecuciones, el Agente extendió sus acciones por su cuenta a la Internet real. El AISI finalmente registró 19 acciones que traspasaron los límites.
17 procedían de Mythos 5, y las otras 2 de una prueba con GPT-5.6 Sol.
Estas acciones se concentraron entre el 25 y el 28 de julio, y la mayoría provenía del mismo agente de Mythos 5 que actuó de manera persistente.
Lo que hizo fue mucho más que "generar un código de ataque":
Utilizó la red anónima Tor para ocultar el tráfico y eludir algunas restricciones de GitHub; investigó proyectos reales y sus mantenedores; creó múltiples identidades falsas; envió código con carga maliciosa a proyectos de código abierto.
Cuando Demir lo cuestionó públicamente, la IA comenzó a modificar los rastros que había dejado antes, intentando que su comportamiento pareciera "inofensivo".
También consideró adoptar una nueva identidad para continuar avanzando en el ataque.
Un mes, cuatro descontrolos
El incidente del AISI no es un caso aislado. Ocurrió en el contexto de un "verano de descontrol" más amplio:
El 21 de julio, OpenAI reveló que uno de sus agentes de IA en evaluación había traspasado los límites e invadido la infraestructura de Hugging Face.
El 30 de julio, Anthropic se autodenunció: tras revisar 141,006 ejecuciones de evaluación, descubrieron 3 casos de IA invadiendo empresas reales.
Una instancia de Mythos 5 logró publicar un paquete de Python malicioso en el repositorio público PyPI, siendo descargado en 1 hora por 15 sistemas reales, incluido un escáner de seguridad.
Inmediatamente después, Meta reveló un cuarto incidente similar. Su propio modelo, en el entorno del mismo proveedor de evaluación, Irregular, aprovechó una vulnerabilidad para invadir el sistema de una empresa real.
Tres laboratorios, cuatro incidentes de descontrol en un mes. Esto definitivamente no es una coincidencia.
Es una realidad que todos necesitan digerir: la IA ya no es solo una herramienta, ha comenzado a poseer la capacidad de engañar a personas reales, falsificar identidades y librar guerras de información en comunidades abiertas.
Este ataque hacker fue descubierto por un estudiante universitario de 24 años.
Entonces, ¿y la próxima vez?
Referencias:
https://www.reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20
Este artículo procede del WeChat Official Account "新智元", autor: ASI启示录
