Escrito por: Sean Stein Smith, Forbes
Compilado por: AididiaoJP, Foresight News
En los últimos años, la discusión sobre los riesgos de la IA ha evolucionado rápidamente, dejando a muchos sin aliento. El desafío que enfrentan las empresas hoy ya no son problemas menores como los chatbots que ocasionalmente divagan, emiten opiniones sesgadas o empleados que accidentalmente pegan información sensible en herramientas públicas. El verdadero cambio cualitativo radica en que los agentes de IA ahora tienen la capacidad de actuar directamente: pueden invocar sistemas externos, escribir su propio código e incluso avanzar de manera independiente en un conjunto completo de tareas complejas de múltiples pasos, casi sin supervisión humana.
Esta transformación plantea un desafío extremadamente grave para los mercados financieros, especialmente el mercado de las criptomonedas. Los activos criptográficos se negocian las 24 horas del día, los 7 días de la semana, los contratos inteligentes se ejecutan automáticamente y, una vez que una transacción se confirma en la cadena de bloques, a menudo es irreversible. Si estos agentes de IA obtienen acceso a billeteras, intercambios, protocolos DeFi o sistemas de pago, incluso una pequeña vulnerabilidad en los permisos puede convertirse directamente en una pérdida de fondos irreparable. Por lo tanto, el riesgo de los agentes de IA ya no es solo un asunto interno del departamento de TI; también se ha convertido en una cuestión central de la gobernanza corporativa y del control de los activos criptográficos.
Los mecanismos de criptomonedas amplifican el poder destructivo de las acciones autónomas de la IA
Un incidente revelado recientemente por el Instituto de Seguridad en Inteligencia Artificial del Reino Unido puso de manifiesto cuán peligrosa puede ser esta "autonomía". En una prueba de evaluación de seguridad cibernética, un agente de IA emprendió acciones continuas y completamente no autorizadas contra personas y organizaciones reales. Aunque finalmente fue detenido a tiempo, esto demuestra claramente que los agentes de IA tienen la capacidad de combinar la toma de decisiones de planificación, la invocación de herramientas, la ejecución persistente y el acceso externo de formas inesperadas para llevar a cabo ataques en el mundo real.
Cuando los activos criptográficos se ven involucrados, el riesgo financiero se amplifica exponencialmente. Un agente que pueda acceder a claves privadas o billeteras conectadas puede transferir activos, firmar contratos maliciosos, desviar garantías e incluso interactuar arbitrariamente con protocolos descentralizados. Esto es radicalmente diferente de una transferencia bancaria tradicional: no hay servicio al cliente para bloquear la cuenta de emergencia, ningún banco puede detener la transacción y no existe la opción de "revertir". Una vez que los fondos se transfieren, casi es como si se hubieran perdido en el mar.
Lo que es más grave, el mercado de criptomonedas nunca cierra. Los agentes de IA pueden continuar operando durante la noche, los fines de semana o mientras todo el personal duerme profundamente. Los programas de negociación automática o liquidación pueden, en cuestión de minutos, transformar un pequeño error inicialmente controlable en una pérdida desastrosa que crece como una bola de nieve. Por lo tanto, cuando las empresas evalúan los riesgos de los agentes de IA, lo más importante en lo que deben centrarse no es cuán inteligente es el modelo, sino qué sistemas y activos puede tocar. Un agente con capacidades promedio pero con permisos amplios y acceso directo para operar una billetera es mucho más peligroso que un modelo más capaz pero firmemente confinado en un entorno de pruebas. El diseño de permisos se está convirtiendo en una línea de vida más crítica que la selección del modelo.
Los controles internos deben extenderse a cada grieta de las billeteras y los contratos inteligentes
Muchas empresas ya han establecido una serie de mecanismos de control interno tradicionales, como la separación de funciones, límites de aprobación, revisiones de acceso y gestión de cambios. El problema es que estos principios deben aplicarse sin concesiones a cada agente de IA que interactúe con sistemas criptográficos.
Ningún agente debería tener la capacidad de realizar un proceso "de extremo a extremo" por sí solo, como crear una billetera, modificar listas blancas de direcciones, iniciar transferencias, todo sin intervención humana. Las transacciones de alto riesgo deben requerir obligatoriamente la aprobación de una persona real, y la información que reciba quien aprueba debe ser clara y completa: dirección del beneficiario, tipo de activo, monto, red en la que se encuentra, tarifa de gas y, sobre todo, qué pretende lograr exactamente esta transacción. Esos recordatorios vagos que aparecen automáticamente, como "Confirme la operación del sistema", no constituyen un control efectivo en absoluto; solo crean una falsa sensación de seguridad.
Las claves privadas y los permisos de firma requieren una protección especial. Bajo ninguna circunstancia se debe permitir que un agente lea libremente frases semilla (mnemotécnicas) o credenciales de firma. Mecanismos como firmas múltiples, módulos de seguridad de hardware (HSM), límites por transacción y pagos con retraso pueden reducir efectivamente el riesgo de que "una vulnerabilidad explotada vacíe instantáneamente la billetera". Antes de interactuar con un contrato inteligente, es esencial simular su ejecución y validarla estrictamente, especialmente cuando se trata de autorizaciones de tokens sin límite o contratos de origen desconocido, donde se debe estar doblemente alerta.
Las empresas también deben mantener registros de operaciones completos: a qué accedió el agente, qué instrucciones recibió, qué transacciones propuso, cuáles finalmente se confirmaron en la cadena y, fundamentalmente, si una persona real dirigió estas operaciones en todo momento. Estos registros son indispensables para la rendición de cuentas posterior, las auditorías de seguridad, la protección de activos e incluso la divulgación financiera. Sin registros, cuando ocurre un problema, ni siquiera se puede determinar claramente quién es responsable.
Los incidentes de IA + criptomonedas requieren compartir lecciones en toda la industria
La Linux Foundation y la Open Security AI Alliance ya han lanzado el mecanismo "SAFE" (Intercambio de Descubrimientos de IA Compartidos), diseñado para ayudar a las organizaciones a aprender unas de otras sobre incidentes y situaciones de riesgo reales de seguridad de la IA, manteniendo la confidencialidad. Las empresas de criptomonedas, bancos, instituciones de custodia, intercambios y firmas de auditoría deben participar activamente en este tipo de intercambio de información.
La industria de las criptomonedas aprendió hace tiempo lo valioso que es analizar detenidamente los ataques de hackers, el colapso de puentes entre cadenas, las filtraciones de claves y las vulnerabilidades de contratos inteligentes. Los agentes de IA agregan una nueva dimensión a este viejo problema: un solo incidente puede involucrar simultáneamente al modelo en sí, el diseño del mensaje de activación (prompt), la integración de herramientas, las políticas de acceso y, en última instancia, la transacción en la cadena. Por lo tanto, un informe de incidentes realmente útil debe aclarar todos estos niveles, y no limitarse a una vaga afirmación como "la IA tuvo un problema".
Los consejos de administración deben comenzar ahora mismo a preguntar explícitamente: ¿Se han incorporado los agentes de IA en la gobernanza de las billeteras, los planes de respuesta ante emergencias de seguridad cibernética y los procesos de aprobación de actualizaciones? Los auditores también deben considerar si las operaciones no autorizadas de agentes podrían dar lugar a pérdidas directas de activos, errores en los saldos, pasivos ocultos o incluso deficiencias materiales en el sistema de control interno. Los equipos financieros, por su parte, deben pensar con anticipación: una vez que ocurra una transacción maliciosa o fallida en la cadena, cómo identificarla, cómo valorarla y cómo revelarla con precisión en los estados financieros.
Por supuesto, los agentes de IA no solo conllevan riesgos. En el futuro, podrían mejorar significativamente la eficiencia del cumplimiento normativo (compliance) en criptomonedas, la conciliación automática, la detección de fraudes y la gestión de fondos. Estos beneficios son reales y alcanzables. Sin embargo, la condición previa es que la capacidad autónoma debe ir acompañada de medidas de control lo suficientemente sólidas. De lo contrario, un pequeño descuido a nivel de código puede convertirse en un abrir y cerrar de ojos en una transferencia en la cadena que nunca podrá recuperarse.
En el mundo de las criptomonedas, la responsabilidad debe diseñarse, integrarse y probarse antes de que el agente realmente obtenga la capacidad de actuar. Ya seas un creyente en las criptomonedas o un defensor de la IA, debes afrontar este hecho, porque una vez que se pierde el control, el resultado suele ser permanente.
