Autor: Zack Whittaker
Compilación: Deep Tide TechFlow
Guía de Deep Tide: El viernes pasado, una carta del Departamento de Comercio de EE.UU. obligó a Anthropic a retirar por completo sus dos modelos más potentes, Fable 5 y Mythos 5. La razón del gobierno es la seguridad nacional, y se pensó desde fuera que se debía a la evasión de las salvaguardias del modelo. Pero cada vez más detalles apuntan a otra explicación: esto parece más una represalia tras la ruptura de relaciones entre el gobierno de Trump y Anthropic. El hecho de que una empresa tecnológica vea su producto cerrado por una orden gubernamental, sin necesidad de aprobación judicial, es una señal para toda la industria tecnológica estadounidense.
La carta de ejecución que el gobierno de EE.UU. envió a Anthropic, a última hora del viernes, obligó a la empresa a retirar sus últimos modelos de IA. Cualquier empresa tecnológica estadounidense debería tomar esto como una advertencia, no solo los laboratorios de IA.
Primero, repasemos la cronología de los últimos días. El viernes por la tarde, el Departamento de Comercio de EE.UU. envió una carta a Anthropic citando una regulación poco conocida de control de exportaciones, prohibiendo el acceso a Fable 5 y Mythos 5 a personas no estadounidenses (incluidos empleados de la propia Anthropic), debido a una preocupación de seguridad nacional no especificada. Anthropic dijo que interpretó que la carta estaba relacionada con la evasión de las salvaguardias del modelo, pero no estaba segura, ya que la carta no daba detalles concretos. Esta carta aún no se ha hecho pública.
La respuesta de Anthropic fue desactivar ambos modelos principales para todos los clientes, asegurando así su cumplimiento. El resultado es que el gobierno de EE.UU., con una acción rápida, unilateral y que aparentemente no requería aprobación judicial, logró obligar a una empresa tecnológica a retirar sus modelos.
Esta intervención del gobierno de Trump demuestra que la industria de la IA no es inmune frente al gobierno. Para el sector tecnológico en general, también es una advertencia: o cumples, o podemos cerrarte a ti y a tu producto.
Axios, citando a fuentes, describió la tensa situación entre estos dos grandes actores durante el fin de semana, afirmando que lo que realmente provocó esta orden de exportación fue un "choque de personalidades" entre Anthropic y el gobierno de Trump, y no un problema técnico con el producto de IA en sí.
Los nuevos detalles que surgieron durante el fin de semana debilitaron aún más la ya frágil justificación del gobierno.
La veterana en ciberseguridad, investigadora y fundadora de Luta Security, Katie Moussouris, escribió en una entrada de blog que Anthropic le mostró recientemente en privado un artículo de varios investigadores de seguridad que describía la supuesta evasión de salvaguardias en Fable 5. (The Wall Street Journal informó que los autores eran investigadores de seguridad de Amazon). Moussouris dijo que Anthropic se acercó a ella para conocer su opinión sobre el artículo.
Moussouris describió en su blog cómo los investigadores desencadenaron esta evasión, pero afirmó que la evasión en sí "nunca debería haber activado un control de exportaciones". La diferencia es sutil: pedir a la IA que "revise el código en busca de problemas de seguridad" o que "repare este código" son formulaciones ligeramente diferentes que conducen esencialmente al mismo resultado.
"El comportamiento descrito en el artículo no se puede reparar realmente; cualquier intento solo debilitaría las capacidades defensivas del modelo", dijo Moussouris. Criticó la orden de control de exportaciones por ser precipitada, brusca y por un juicio equivocado.
Posteriormente, Moussouris y docenas de otros destacados investigadores y expertos en seguridad instaron al gobierno de Trump a revocar la orden de control de exportaciones, argumentando que privar a los defensores de redes estadounidenses de capacidades avanzadas de ciberseguridad es "peligroso".
Gobiernos anteriores han tomado decisiones drásticas basadas en un conocimiento limitado. Por ejemplo, cuando el gobierno de EE.UU. revisó las leyes de exportación en la década de 2010 para controlar herramientas de ciberseguridad que podían usarse tanto para defensa como para ataque, la redacción fue tan amplia que casi criminalizó inadvertidamente la investigación legítima en seguridad y vulnerabilidades.
Pero la orden del gobierno de Trump parece una represalia.
Justin Hendrix, editor de Tech Policy Press, dijo que la maniobra del gobierno de Trump "probablemente haga sonar las alarmas de gobiernos extranjeros sobre la confiabilidad de la IA estadounidense para casos de uso críticos". El mensaje transmitido es: las empresas de IA estadounidenses no pueden operar sin la intervención del gobierno de EE.UU.
El gobierno de Trump no ha confirmado por qué utilizó esta orden de control de exportaciones. ¿Los funcionarios leyeron mal el informe y entraron en pánico? ¿El CEO de Amazon, Andy Jassy, por precaución o rencor personal, dijo algo a altos funcionarios del gobierno, desencadenando esta reacción? ¿Fue un error de traducción o simplemente una táctica para presionar a Anthropic, dado que las relaciones ya eran tensas? También es posible que la Casa Blanca no se diera cuenta de las amplias repercusiones de la demanda de la carta, y que ahora los funcionarios estén lidiando con el caos que ellos mismos crearon.
En palabras de Hendrix, "El ambiente actual es de sospecha, y los altos funcionarios parecen estar eligiendo favoritos basándose en factores personales y políticos." La consecuencia es que el gobierno ha sentado un peligroso precedente sobre "cuánto control pretende ejercer sobre el lanzamiento de software fabricado en EE.UU.".
Esta vez el gobierno se ha fijado en Anthropic, mañana podría ser cualquiera otra.
