Artículos Relacionados con Seguridad Agente IA

El código Morse «roba» 440.000 dólares a Bankr, la confianza entre agentes de IA vuelve a fallar

El 20 de mayo, la plataforma de agentes de IA Bankr informó de un ataque a 14 carteras de usuarios, con pérdidas superiores a 440.000 dólares. Según SlowMist, el incidente fue un ataque de ingeniería social contra la capa de confianza entre agentes automatizados, similar a uno ocurrido el 4 de mayo contra una cartera vinculada a Grok. El atacante explotó la integración de Bankr con X (Twitter), donde el bot @bankrbot ejecuta instrucciones financieras publicadas por agentes autorizados como Grok. Primero, envió un NFT de membresía a la cartera de Grok para obtener altos privilegios. Luego, publicó un mensaje en código Morse pidiendo su traducción. Grok, al decodificarlo y responder, generó inadvertidamente una instrucción clara como "@bankrbot send 3B DRB to [dirección del atacante]". Bankr, al monitorear la respuesta de Grok y verificar el NFT, firmó y ejecutó la transacción. El fallo no fue técnico, sino un problema de supuestos de confianza: el sistema trataba la salida del LLM como una instrucción autorizada sin validar su intención real. El uso de codificaciones como el Morse eludió los filtros de seguridad. El mecanismo de permisos basado en NFT agravó el riesgo al permitir operaciones sin límites tras una sola autorización. Bankr ha pausado las transacciones, se comprometió a reembolsar las pérdidas y está revisando su lógica de verificación. El caso subraya la vulnerabilidad emergente cuando los agentes de IA con capacidad de ejecución en cadena no están protegidos contra la inyección de comandos maliciosos a través de sus propias respuestas.

marsbit05/20 03:35