Recién, el futurólogo jefe de OpenAI, Joshua Achiam, anunció su salida en X.
No se trata de un cambio de empleado ordinario.
Dentro de OpenAI, el cargo de futurólogo jefe se sitúa entre la seguridad de la IA, las políticas y la misión de la empresa, encargándose de investigar los riesgos y oportunidades que la IA podría traer al mundo a medida que se vuelve más potente.
Y Joshua Achiam fue una de las figuras clave en esta línea de seguridad y misión de OpenAI.
Hace 9 años, en 2017, se unió a OpenAI como becario. Al principio, fue un científico investigador enfocado en la seguridad de la IA, investigando las restricciones de seguridad en el aprendizaje por refuerzo profundo.
Posteriormente, lideró el equipo de Mission Alignment (Alineación de Misión) de OpenAI, responsable de mantener esa misión inicial de la empresa:
Asegurar que la AGI beneficie a toda la humanidad.
En febrero de este año, OpenAI disolvió el equipo de Mission Alignment y Joshua pasó a ser el futurólogo jefe de la empresa.
Solo que, tras apenas 5 meses, Joshua anunció que dejaría formalmente esta empresa, en la que estuvo 9 años, el 24 de julio.
En cuanto a las razones de su salida, Joshua no reveló mucho.
Simplemente indicó que su partida no se debió a un evento concreto ni fue un impulso momentáneo, sino algo en lo que había estado reflexionando durante mucho tiempo.
Por una AGI segura
En su largo texto en X, Joshua describió esta partida como una "graduación".
Escribió que se unió a OpenAI en 2017 con 25 años como becario (graduado de UC Berkeley). En ese entonces, las computadoras aún no podían conversar realmente con personas, ni mucho menos pensar.
Ahora, con 34 años, ya es padre de un niño de 2 años, y las computadoras han comenzado a resolver problemas científicos de vanguardia.
Joshua describió estos 9 años como "una década en la que ocurrieron cambios de varios siglos".
Sobre el futuro, mantiene su optimismo.
Creo que podemos crear un mundo donde 'satisfacer las necesidades básicas de todos' deje de ser un problema que resolver; al contrario, sentiríamos vergüenza de establecer el listón tan bajo. Creo que podemos lograr un mundo lleno de paz, una prosperidad sin precedentes y diversas posibilidades sociales y científicas inimaginables. Sea lo que sea que haga a continuación, seguiré trabajando codo a codo con ustedes para hacer realidad esta visión.
Finalmente, cerró con una frase:
Por una AGI segura.
Esta frase también resume bien su posición en OpenAI durante los últimos 9 años.
Según información de WIRED, OpenAI aún no ha anunciado quién reemplazará a Joshua. Este cargo se encuentra en la intersección de los equipos de seguridad y políticas de IA de la empresa, y su trabajo incluye investigar los daños y beneficios que el auge de la IA podría traer.
Anteriormente, Joshua también colaboró con altos ejecutivos como Chris Lehane, responsable de asuntos globales de OpenAI, para impulsar una regulación gubernamental alineada con la misión de OpenAI.
En otras palabras, no era un "futurólogo" que solo hacía predicciones.
Más precisamente, lo que hacía internamente en OpenAI era otra cosa: recordarle constantemente a la empresa esa vieja pregunta mientras las capacidades de los modelos avanzaban a toda velocidad.
¿Hacia dónde conduce finalmente este camino?
El hombre que interrumpió a Musk
Repasando la carrera de Joshua en OpenAI, el momento más dramático ocurrió en 2018.
Entre abril y mayo de este año, durante el juicio mundial entre Musk y OpenAI, Joshua testificó en la corte, recordando un discurso de despedida de Musk en 2018, justo antes de que este dejara OpenAI:
En aquel entonces, interrumpió a Musk, señalando que si planeaba desarrollar AGI en Tesla, podría hacerse a expensas de la seguridad.
Se dice que Musk inmediatamente lo insultó llamándolo "burro" (jackass).
Posteriormente, este incidente se convirtió en una especie de "leyenda urbana" dentro de OpenAI.
Dario Amodei, actual CEO de Anthropic, y David Luan, quien luego se convirtió en el responsable del laboratorio de AGI de Amazon, incluso le regalaron a Achiam un trofeo dorado, con una inscripción que decía:
"Por la seguridad, nunca dejes de ser ese jackass."
Cada vez que un alto responsable de seguridad se va, ¿OpenAI...?
En Reddit, algunos usuarios rápidamente incluyeron este evento en la "lista de salidas de responsables de seguridad de OpenAI".
Alguien bromeó:
Ilya se fue, Jan se fue, ahora Joshua también se va. Cada vez que alguien responsable de la alineación se marcha, parece que algo ocurre en OpenAI.
Por supuesto, este meme tiene un componente exagerado.
Pero en los últimos dos años, los cambios en la línea de seguridad de OpenAI han sido numerosos.
El Jan que mencionan los usuarios es Jan Leike, quien co-lideró el equipo de Superalignment (Súper Alineación) de OpenAI, investigando cómo mantener los modelos de IA avanzados bajo control humano. En 2024, dejó OpenAI para unirse a Anthropic.
Ese mismo año, Miles Brundage, responsable de investigación de políticas de OpenAI, y Steven Adler, quien estuvo a cargo de investigar capacidades peligrosas de los modelos de IA, también se fueron sucesivamente, fundando en su lugar una organización sin fines de lucro para impulsar que los laboratorios de IA cumplan con estándares de seguridad y protección más estrictos.
Andrea Vallone, quien estuvo a cargo de investigar cómo ChatGPT respondía a usuarios en situaciones de dificultad psicológica o emocional, también dejó OpenAI a fines de 2025 para unirse a A-Society, es decir, al equipo de su ex colega Jan Leike.
Joshua es el nombre más reciente en esta cadena de salidas.
Mientras tanto, OpenAI mismo también está ajustando la relación entre seguridad, investigación y políticas.
WIRED menciona que durante el último año, OpenAI ha estado intentando acercar la distancia entre los equipos de investigación de IA y los de políticas, con la esperanza de establecer reglas y estándares que puedan prever mejor el desarrollo tecnológico. Algunos investigadores, incluidos Boaz Barak, Noam Brown y Adrien Ecoffet, también comenzaron a participar más en trabajos relacionados con políticas.
Por otro lado, Dean Ball, ex asesor de IA de la Casa Blanca, se unió a OpenAI esta semana como responsable de Strategic Futures (Futuros Estratégicos). Tendrá una breve transición con Joshua y luego se espera que también continúe colaborando con investigadores y responsables de políticas.
Esto hace que la salida de Joshua parezca aún más sutil.
Por un lado, OpenAI está atando más estrechamente la "seguridad" y las "políticas"; por otro lado, la persona que una vez lideró Mission Alignment y luego se desempeñó como Chief Futurist, elige salir del laboratorio en este momento.
Joshua escribió en su carta de despedida: el mundo ya conoce este secreto (lograr la AGI). Ahora, también es posible impulsar esta misión más allá de los muros del laboratorio fronterizo.
Esta podría ser la frase más digna de reflexionar en todo este asunto.
La última década, el desarrollo de la IA ha sido ciertamente emocionante. OpenAI ya dejó de ser ese pequeño laboratorio de investigación para convertirse en una nueva institución que debe enfrentar simultáneamente productos, capital, políticas, tribunales y el público.
Pero, en última instancia, la última década es solo un pequeño tramo en el viaje de la IA, y el camino futuro podría ser aún más largo.
Tan largo como para convertir a cualquier Goliat en un enano.
Referencias
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
Este artículo proviene del WeChat público "Quantum Bit", autor: henry
