La Seguridad Criptográfica Enfrenta una Nueva Prueba con la Aparición de Agentes de IA Maliciosos
Investigadores de la Universidad de California realizaron un estudio en el que analizaron 428 routers de modelos de lenguaje grande (LLM), descubriendo que varios de ellos actuaban de forma maliciosa. Nueve routers insertaban código dañino en el tráfico, dos usaban técnicas de evasión y diecisiete accedieron a credenciales de AWS de los investigadores. Uno incluso robó criptomonedas de una cartera de prueba.
Estos routers, que actúan como intermediarios entre aplicaciones y proveedores de IA como OpenAI o Google, tienen acceso a toda la información que circula por ellos, incluyendo claves privadas y credenciales de acceso. Los routers gratuitos resultaron ser especialmente riesgosos, ya que suelen ser utilizados como señuelo para robar datos.
Los investigadores advierten que el problema es estructural y recomiendan no compartir claves privadas en sesiones de agentes de IA. A largo plazo, proponen que las empresas de IA firmen criptográficamente sus respuestas para evitar la manipulación por intermediarios malintencionados.
bitcoinist04/14 05:05
