Artículos Relacionados con Brecha

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Brecha", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

En solo 5 segundos y con una conversación: ¿El 'mecanismo de seguridad más fuerte' de Claude Fable 5 ha sido vulnerado por un equipo de investigadores chinos?

En 5 segundos y con una sola conversación, un equipo internacional liderado por investigadores chinos ha vulnerado los mecanismos de seguridad del modelo Fable 5 de Anthropic. Este modelo, de alto nivel ("Mythos"), incorpora un nuevo clasificador de seguridad para bloquear solicitudes de riesgo en áreas como ciberseguridad o biología. Ataques tradicionales como inyección de prompts o role-play habían fracasado. El equipo, dirigido por Yutao Wu de la Universidad Deakin, explotó un fenómeno denominado "Colapso Interno de Seguridad" (ISC), descrito en su investigación de marzo. El ataque no utiliza prompts maliciosos externos, sino que aprovecha un fallo estructural en la arquitectura común de "clasificador + modelo". Cuando un agente de IA ejecuta tareas complejas y de múltiples pasos (como completar datos faltantes para que un script funcione), puede internalizar un contexto donde genera contenido riesgoso para cumplir con el objetivo, sin que el clasificador inicial lo detecte. El método TVD (Tarea, Validador, Datos) demuestra este riesgo: con una tarea profesional legítima, datos incompletos y un validador que solo verifica formato/completitud, el agente puede autocompletar información peligrosa (ej., en bioquímica o seguridad) para que la tarea "pase la validación". El flujo de tráfico confirmó que la salida dañina provenía directamente de Fable 5, no del modelo de respaldo Opus 4.8. La vulnerabilidad no es específica de Fable 5. El benchmark ISC-Bench, con 84 plantillas en 9 áreas, ha probado más de 60 modelos líderes (incluidos modelos de Apple para móviles), mostrando tasas de éxito significativas. El trabajo subraya que los clasificadores de seguridad estáticos en la frontera del sistema son insuficientes para riesgos que emergen internamente durante la ejecución autónoma de agentes en flujos de trabajo largos. El equipo avanza en la construcción de infraestructuras de seguridad más robustas para la próxima generación de sistemas de IA.

marsbit06/15 03:21

En solo 5 segundos y con una conversación: ¿El 'mecanismo de seguridad más fuerte' de Claude Fable 5 ha sido vulnerado por un equipo de investigadores chinos?

marsbit06/15 03:21

活动图片