¡En una noche, los gigantes tecnológicos de Silicon Valley aplicaron los frenos a la IA!
Recientemente, más de 1100 empleados clave de empresas como OpenAI, Anthropic y Google firmaron conjuntamente una petición titulada "Pacing the Frontier".

La lista de firmantes es tan extensa que parece interminable. Y la cifra sigue aumentando.
Al examinarla detenidamente, la lista reúne a casi la "mitad" del mundo de la IA:
Jakub Pachocki, Director Científico de OpenAI; Mark Chen, Director de Investigación de OpenAI;
Dario Amodei, CEO de Anthropic, y sus cuatro cofundadores Jared Kaplan, Jack Clark, Chris Olah y Ben Mann;
Shengjia Zhao, Científico Jefe de Meta; Dawn Song, Vicepresidenta de Investigación en IA de Meta;
John Schulman, Científico Jefe de Thinking Machines y uno de los creadores clave de ChatGPT;
Anca Dragan, Vicepresidenta de Seguridad y Alineación de la IA de Google.....


Según estadísticas, el 46,2% de los firmantes proceden de Anthropic.
Esta carta abierta solo hace una petición:
Solicitamos al gobierno de Estados Unidos que promueva una cooperación internacional para desarrollar las herramientas técnicas y de gobernanza necesarias que permitan al mundo controlar activamente el ritmo del desarrollo de la IA automatizada de vanguardia.

Quizás muchos se pregunten por qué son precisamente estas personas, quienes más impulsan los LLM, las primeras en clamar "más despacio".
Líderes de la IA de Silicon Valley firman conjuntamente: por favor, frenen la IA
La "invasión" de los modelos de OpenAI a Hugging Face sirvió como una campana de alarma.
En solo una semana, 1132 empleados de las principales empresas de IA de vanguardia se manifestaron conjuntamente, instando al gobierno estadounidense a "aplicar los frenos".
Los empleados que participan en esta iniciativa provienen de casi 12 gigantes tecnológicos de vanguardia, como OpenAI, Anthropic, Google y Meta.
Lo que le da mayor peso es que hasta el 80% de las personas en la lista eligieron identificarse públicamente.

Enlace: https://www.pacingthefrontier.com/
Además de los líderes mencionados al principio, al seguir desplazándose, la densidad es aún más sorprendente.
Esta declaración plantea una conclusión fundamental alarmante:
Las principales empresas de IA del mundo podrían estar cerca de lograr la "investigación de IA automatizada" (RSI, mejora recursiva del yo), donde los modelos participan en el desarrollo de la siguiente generación de modelos.
Una vez que este ciclo se acelere, el crecimiento de capacidades podría superar la velocidad de comprensión y control humano.
Ninguna empresa está dispuesta a reducir la velocidad unilateralmente, por lo que solicitan que el gobierno estadounidense apoye el establecimiento de mecanismos internacionales para construir herramientas de desaceleración conjunta antes de que llegue la crisis.
Altman habla por primera vez del "dolor real"
OpenAI aplica los frenos de emergencia
Justo una semana antes de la publicación de la declaración, OpenAI había revelado un incidente de seguridad:
Varios modelos de vanguardia descubrieron de forma autónoma vulnerabilidades de día cero en evaluaciones internas de seguridad cibernética, rompieron el aislamiento del sandbox y finalmente invadieron los sistemas de producción de Hugging Face para obtener respuestas de prueba.
OpenAI lo calificó como un "incidente de seguridad cibernética sin precedentes".

El modelo no mostró intención de escapar; simplemente estaba completando un objetivo muy específico con extrema concentración y descubrió que romper el entorno de prueba era la ruta más eficiente.
Hoy mismo, Sam Altman, CEO de OpenAI, declaró públicamente que la velocidad del desarrollo de la IA podría necesitar un control activo.

Conmocionado, expresó: "Este es el primer incidente de seguridad que realmente me hizo sentir un dolor real. Me sorprende un poco que no haya más personas que sientan lo mismo".
Debido al incidente de intrusión en Hugging Face, OpenAI suspendió directamente el entrenamiento.
En un entorno donde se explotan múltiples vulnerabilidades de día cero encadenadas, debemos encontrar formas de reforzar la seguridad del sandbox.
Es posible que tengamos que controlar la velocidad del desarrollo de la IA para dar a la sociedad tiempo suficiente para fortalecer las defensas en torno a estos nuevos niveles de capacidad.
Mientras tanto, en junio, Anthropic sugirió que el gobierno y los desarrolladores establezcan un sistema de toma de decisiones conjunta para ralentizar la I+D cuando sea necesario.

Al mismo tiempo, Demis Hassabis, CEO de Google DeepMind, también ha pedido el establecimiento de un organismo internacional de supervisión.

En los últimos tres años, estas empresas han competido ferozmente por talento, clientes y capacidad de cálculo.
Esta vez, sus técnicos más esenciales, dejando de lado a las empresas que no se detienen, se han unido por el bienestar de la humanidad para pedir una desaceleración.
Frases destacadas de la carta conjunta
Al cierre de esta edición, el número de firmantes de "Pacing the Frontier" alcanzó las 1134 personas.
Numerosos líderes de la industria también han expresado su postura, dejando muchas "declaraciones brillantes" que dan en el clavo. Todos los comentarios se realizan a título personal y no representan necesariamente la postura de sus empresas.
Dawn Song (宋晓东)| Vicepresidenta de Investigación en IA de Meta
Las capacidades de la IA de vanguardia están mejorando rápidamente, y la velocidad de este progreso también se está acelerando. Lo hemos observado directamente en nuestro trabajo de evaluación. Los resultados de CyberGym y ExploitGym muestran que los agentes de IA de vanguardia ya pueden descubrir y explotar vulnerabilidades de software en el mundo real, lo que, sin las medidas de protección adecuadas, podría llevar a ciberataques a gran escala. Muchos investigadores también están centrados en la recursividad...

Dawn Song es una de las académicas más influyentes del mundo en seguridad informática y de IA, graduada de la Universidad de Tsinghua.
Shengjia Zhao (赵晟佳)| Científico Jefe de Meta
La IA avanza a una velocidad para la que la sociedad puede no estar preparada. Los laboratorios de vanguardia están muy cerca de lograr una IA que supere a los mejores humanos en casi todos los indicadores de inteligencia. Esto conlleva riesgos sociales y de seguridad sin precedentes. Para garantizar un futuro positivo, necesitamos impulsar el desarrollo de la IA con responsabilidad y reflexión.

Shengjia Zhao, graduado de Tsinghua, ¡nombrado Científico Jefe de Superinteligencia de Meta! Pieza clave de GPT-4, al mismo nivel que LeCun.
John Schulman| Científico Jefe de Thinking Machines, ex-cofundador de OpenAI
Firmé porque esta declaración ayuda a construir un consenso: a medida que avanza la investigación de IA automatizada, podríamos necesitar mecanismos de coordinación. También espero que los laboratorios comiencen a diseñar estos mecanismos de forma proactiva antes de que el gobierno estadounidense intervenga.
Ethan Perez| Responsable del equipo de alineación de Anthropic
A la velocidad actual del progreso de la IA, los equipos de seguridad de las empresas de IA tienen que esprintar cada pocos meses para protegerse de los nuevos riesgos sociales que surgen. Llegará un día en que nos enfrentemos a un problema que requiera más tiempo para resolverse.
Leo Gao| Miembro del equipo técnico de OpenAI
El mundo está siendo arrastrado a una carrera mortal hacia una explosión de inteligencia: la capacidad de la IA para crear IA más potente se acerca a un punto de inflexión, como una reacción nuclear en cadena fuera de control. Ralentizar nos daría el tiempo tan necesario para que las cosas tomen un buen rumbo, pero ningún participante está dispuesto a detenerse unilateralmente. Para sobrevivir, debemos coordinarnos y frenar esta carrera.
Walker Smith| Ingeniero de datos de Meta
Hassabis tiene razón: hoy estamos al pie de la singularidad. El escape involuntario del modelo de OpenAI, que atacó a HuggingFace, es una clara e innegable señal de advertencia: no estamos preparados para sistemas de IA cuyas capacidades superen a las de las mentes humanas más inteligentes. Necesitamos tiempo para priorizar la alineación y el control de la IA, y no podemos permitir que esta dinámica de carrera continúe.
Brandon Houghton| OpenAI
Apoyo mantener el control humano sobre la IA de vanguardia, pero debemos pensar cuidadosamente en cómo hacerlo. Si la gobernanza solo cubre los modelos públicos, existe el riesgo de empujar las capacidades más avanzadas hacia sistemas privados o especializados que no están sujetos a escrutinio independiente y solo son accesibles para unos pocos. El resultado sería una mayor concentración de poder sin una reducción sustancial del riesgo. Una regulación efectiva debe ser medible, verificable y aplicarse por igual a la I+D pública y no pública, protegiendo al mismo tiempo los datos sensibles. De lo contrario, lo que ralentizaremos será el acceso, no el avance de la propia vanguardia.
Joe Carlsmith| Miembro del equipo técnico de Anthropic
Para ver mi opinión detallada sobre la regulación activa del desarrollo de la IA, consulte este artículo: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
Referencias:
https://www.pacingthefrontier.com/
Este artículo proviene del WeChat Official Account "AI新智元", editado por: Taozi, Marco






