Anthropic grita que el lobo (AGI) está llegando, ¿es por la humanidad o por la OPV?
Anthropic ha publicado un documento titulado "When AI builds itself", advirtiendo sobre el "mejoramiento recursivo automático" (recursive self-improvement), un concepto en el que la IA participa activamente en el diseño, entrenamiento, prueba y optimización de sus propias versiones futuras, lo que podría acelerar exponencialmente su progreso.
La empresa presenta datos internos que muestran la creciente autonomía de Claude en la I+D de IA: más del 80% del código fusionado en mayo de 2026 fue escrito por Claude, su tasa de éxito en tareas complejas y abiertas alcanzó el 76%, y es capaz de revisar código y realizar investigaciones de seguridad de manera autónoma, a veces superando a los investigadores humanos en eficacia.
Anthropic describe una evolución desde el desarrollo humano hasta la aparición de agentes de IA autónomos que pueden ejecutar y delegar tareas. Aunque afirma que el "bucle cerrado" de autorrealimentación completa aún no se ha alcanzado, advierte que el camino hacia él es ya visible. Por ello, pide mecanismos de coordinación global para posiblemente ralentizar o pausar el desarrollo de IA fronteriza, permitiendo que la seguridad y las estructuras sociales se pongan al día.
El artículo también analiza el contexto de la próxima OPV de Anthropic, sugiriendo que este mensaje de advertencia sirve a la vez como una narrativa para el mercado: Claude no es solo un producto, sino una herramienta central que acelera su propio desarrollo, creando un "volante de inercia" (flywheel) para la empresa. Esto contrasta con el enfoque más institucional de OpenAI, que en un documento reciente también reconoció los primeros signos de mejora recursiva pero centrándose en la gobernanza. El texto concluye que Anthropic, al detallar su avance técnico, se posiciona como una empresa que tiene la autoridad para hablar sobre estos riesgos transformadores.
marsbitHace 2 min(s)