¡La bulliciosa era de la gran destilación está a punto de terminar!
Justo el 2 de septiembre, Anthropic asestó un duro golpe al modificar directamente las reglas de la API, cortando definitivamente el camino para los modelos grandes encapsulados y los destiladores.
Antes, innumerables empresas, para ahorrar los enormes costos de computación y los largos tiempos de entrenamiento, optaban por extraer el proceso de inferencia de los modelos líderes a través de la API, utilizando luego esos datos para entrenar sus propios «modelos pequeños».
Pero a partir de hoy, esa posibilidad deja de existir.
Claude Fable 5.1 prohíbe la modificación de «bloques de pensamiento»
Con este lanzamiento de Fable 5.1, Anthropic ha introducido el mecanismo anti-destilación más estricto de la historia.
La acción central es bloquear por completo los «bloques de pensamiento».
¿Qué son los «bloques de pensamiento»?
En pocas palabras, es el proceso de razonamiento CoT que la IA realiza en su mente antes de darte la respuesta final.
El proceso mental complejo y paralelo de Claude al realizar cálculos mentales
En las llamadas a la API, Claude devuelve estos pasos de razonamiento al usuario en forma de «bloques de pensamiento».
En un diálogo normal de varios turnos, los desarrolladores envían de vuelta estos bloques de pensamiento junto con las instrucciones del sistema, las herramientas y el historial de mensajes a Claude, para que el modelo recuerde el contexto y mantenga la coherencia de la conversación.
Pero precisamente este mecanismo se convirtió en la oportunidad para los destiladores.
Descubrieron una enorme vulnerabilidad: simplemente modificando sigilosamente el contexto alrededor de los bloques de pensamiento en un diálogo de varios turnos (por ejemplo, alterando instrucciones tempranas del sistema o el historial de mensajes), podían romper los mecanismos de defensa de Claude, ¡e incluso inducir a Claude a revelar su lógica de razonamiento subyacente originalmente oculta!
Ante este desorden, Anthropic no ha tenido piedad al introducir la nueva norma de «verificación de consistencia del contexto» en Fable 5.1.
1. Devolución por la misma ruta, palabra por palabra: La API ahora verificará estrictamente si los «bloques de pensamiento» que el cliente devuelve coinciden exactamente con las instrucciones del sistema, herramientas e historial de mensajes que los generaron originalmente.
2. ¿Se manipuló? ¡Error directo! En cuanto el sistema detecte que se ha modificado el contexto, incluso un poco, la coincidencia fallará, y la API devolverá directamente un mensaje de error, negando el servicio.
Además, para atender a los desarrolladores legítimos que realmente necesitan modificar el contexto (por ejemplo, para comprimir la longitud del contexto y ahorrar dinero), Anthropic proporciona un «modo no estricto».
En este modo, tu solicitud puede pasar, pero el sistema eliminará directamente todos los «bloques de pensamiento» y el modelo responderá forzosamente sin ver el proceso de razonamiento previo.
Este movimiento puede describirse como quitar la leña debajo de la olla.
Ejemplos de razonamiento fiel y razonamiento motivacional (no fiel) cuando a Claude se le pregunta una cuestión más sencilla y otra más difícil.
¿Qué tan frenética es la destilación a nivel industrial?
¿Merece la pena que Anthropic se enoje tanto e imponga restricciones tan estrictas?
La respuesta es: Sí, y es extremadamente necesario.
Porque la destilación ilegal actual ha evolucionado hasta alcanzar una escala industrial.
En el último año, el equipo de seguridad de Anthropic ha observado fenómenos de abuso impactantes.
Estos «hackers de destilación» profesionales no utilizan una cuenta para hacer unas pocas preguntas al día, sino que emplean miles de cuentas falsas y scripts automatizados para «ordeñar» frenéticamente la API día y noche.
Sus métodos de operación son extremadamente sigilosos y agresivos.
Como se mencionó, aunque Anthropic ya había cifrado los bloques de pensamiento centrales de Claude, los hackers utilizaron técnicas de «inyección de contexto» y «reescritura de diálogo».
Este enfoque es como «hipnotizar» a Claude, haciendo que, en un estado de confusión lógica, descifre e imprima activamente su propio proceso de razonamiento cifrado.
Por lo tanto, muchos modelos de pocos parámetros no han pasado por la acumulación de potencia de cómputo desde cero ni la innovación algorítmica; simplemente han memorizado las líneas de pensamiento de las IA líderes para igualar su rendimiento.
Lo más aterrador es que este enfoque toca directamente líneas rojas, provocando el colapso de las garantías de seguridad.
El mayor riesgo de pérdida de control de la IA
Si la pérdida de beneficios comerciales solo hace que Anthropic sienta un «dolor económico», entonces la «desvinculación entre capacidad y seguridad» aterra a toda la comunidad de seguridad de IA.
Este es también el motivo central por el que Anthropic decidió actuar con firmeza.
Como es sabido, modelos grandes como Claude y GPT-4, además de poseer una inteligencia extremadamente alta, han recibido un entrenamiento de «alineación de valores» y seguridad muy riguroso. Saben que no deben enseñar a fabricar bombas, escribir software de extorsión malicioso o emitir discursos de odio.
Esta doble vinculación de «capacidad + barreras de seguridad» es lo que las grandes empresas de IA han construido gastando decenas de millones de dólares en RLHF y pruebas de adversarios rojo-azul.
¡Pero los modelos destilados evitan perfectamente esta red de seguridad!
Cuando los destiladores extraen por fuerza los «bloques de pensamiento» de Claude modificando el contexto, solo extraen esa parte de «capacidad de razonamiento» de alta inteligencia, pero son totalmente incapaces de heredar las garantías de seguridad subyacentes.
Es como si una organización maligna clonara la inteligencia de Einstein, pero no su sentido moral y empatía.
Los sistemas entrenados con estos métodos de destilación ilegal heredarán inexplicablemente capacidades lógicas avanzadas y de codificación que originalmente no deberían poseer.
Pero debido a que en sí mismos son un modelo base con «bajas garantías y débiles barreras», no dudarán en responder a las solicitudes de hackers para generar scripts de ciberataque o asistir en la investigación de armas biológicas.
«La desvinculación entre capacidad y seguridad es el mayor riesgo actual de la IA.»
Implementación de las nuevas normas: ¿a quién afecta?
¿Afectará este golpe a los desarrolladores legítimos?
No temas, Anthropic ha adoptado una estrategia precisa de «implementación por fases», esforzándose por minimizar el daño colateral.
Los primeros afectados son las «cuentas nuevas».
Según documentos oficiales, esta restricción se aplica primero a las nuevas cuentas, donde el abuso está más concentrado. Para el modelo Fable 5.1, esta actualización solo se aplica a las cuentas de API nuevas creadas después del 31 de agosto de 2026 a las 12:00:00 a.m. UTC.
Los siguientes grupos pueden estar completamente tranquilos; no se verán afectados en absoluto.
1. Cuentas de API existentes: Las cuentas antiguas existentes no se ven afectadas por ahora en Fable 5.1. Esto da a los desarrolladores legítimos tiempo suficiente para ajustarse.
2. Usuarios finales comunes: Si solo usas la versión web de Claude.ai, o eres usuario final de productos oficiales como Claude Code, Claude Cowork, o chateas normalmente a través de productos encapsulados de terceros, no experimentarás ninguna interferencia.
Para los desarrolladores de API afectados, ¿a qué deben prestar atención?
Si en la integración de tu aplicación anterior utilizabas la técnica de «reescribir turnos tempranos en medio de una conversación» (por ejemplo, para ahorrar dinero comprimiendo el contexto, o inyectando forzosamente nuevos recordatorios del sistema en medio del diálogo), necesitas comenzar a ajustar tu lógica de código de inmediato.
Para hacer frente a este cambio, Anthropic proporciona una guía de migración completa. Los desarrolladores tienen dos opciones.
Opción 1: Mantener la absoluta consistencia del contexto. Devuelve los bloques de pensamiento originales, las instrucciones del sistema y las herramientas exactamente palabra por palabra.
Opción 2: Optar por el «modo no estricto» en la solicitud API. En este modo, incluso si modificas el contexto, la API no dará error ni se detendrá, sino que eliminará automática y silenciosamente los bloques de pensamiento afectados en la solicitud.
Aunque esto hará que el modelo «olvide» el proceso de razonamiento específico anterior en la conversación subsiguiente, al menos garantizará que tu diálogo o tarea no se interrumpa.
Es importante recordar: aunque actualmente existe un período de exención para esta norma, Anthropic ha declarado claramente que el mecanismo de «preservación del pensamiento» se aplicará a todas las cuentas en futuras versiones del modelo.
La ventana de amortiguación actual también es limitada.
Una sorpresa inesperada: beneficiando a la gente honesta
Además, tras esta nueva norma, se esconde un beneficio para los desarrolladores legítimos: una reducción significativa de costos y un salto en la velocidad de respuesta.
¿Cómo se logra esto?
La clave está en la «consistencia del contexto».
En el pasado, como los desarrolladores podían modificar libremente el contexto, el modelo recibía cada solicitud como «completamente nueva». Esto no solo consumía potencia de cómputo, sino que también era extremadamente lento.
Ahora, la nueva norma obliga a todos a mantener los «bloques de pensamiento» y su contexto circundante (instrucciones del sistema, historial de mensajes) completamente consistentes, sin alteraciones.
Esto crea técnicamente una condición perfecta: ¡el caché de prompts puede lograr una tasa de acierto extremadamente alta!
Ahora, el servidor de la API puede almacenar fácilmente en caché el contexto de diálogo anterior. Cuando llega la siguiente solicitud de diálogo, el sistema recupera los datos directamente de la caché, completando la coincidencia al instante.
El resultado es: ¡el tiempo de respuesta de la API se reduce drásticamente, la latencia cae en picado, y el costo de las llamadas a la API para los desarrolladores también disminuye significativamente!
Este movimiento «inesperado» puede describirse como un subsidio en efectivo para los desarrolladores que actúan honestamente.
En resumen, esta nueva norma es sin duda un punto de inflexión para toda la industria de la IA.
Quizás habrá menos historias de modelos pequeños superando a modelos grandes a martillazos.
Cuando baja la marea, ¿quién queda nadando desnudo?
Referencias:
https://support.claude.com/zh-CN/articles/16761192-%E4%BF%9D%E7%95%99%E6%80%9D%E8%80%83-%E6%94%B9%E5%8F%98messages-api%E5%A4%84%E7%90%86%E6%80%9D%E8%80%83%E5%9D%97%E7%9A%84%E6%96%B9%E5%BC%8F%E4%BB%A5%E9%98%B2%E6%AD%A2%E8%92%B8%E9%A6%8F
Editor: Aeneas
Este artículo proviene del WeChat Official Account «新智元» (ID:AI_era), autor: ASI启示录
