À l'instant, le futurologue en chef d'OpenAI, Joshua Achiam, a annoncé sa démission sur X.
Il ne s'agit pas d'un simple changement de personnel.
Au sein d'OpenAI, le poste de futurologue en chef se situe à l'intersection de la sécurité de l'IA, des politiques et de la mission de l'entreprise, chargé d'étudier les risques et opportunités que pourrait apporter l'IA au monde à mesure qu'elle continue de se renforcer.
Et Joshua Achiam était l'une des figures centrales de cette ligne de sécurité et de mission chez OpenAI.
Il y a 9 ans, en 2017, il a rejoint OpenAI en tant que stagiaire. Au début, il était chercheur scientifique spécialisé dans la sécurité de l'IA, travaillant notamment sur la recherche de contraintes de sécurité dans l'apprentissage par renforcement profond.
Plus tard, il a dirigé l'équipe Mission Alignment (Alignement de la Mission) d'OpenAI, chargée de maintenir la mission initiale de l'entreprise :
S'assurer que l'AGI profite à toute l'humanité.
En février de cette année, OpenAI a dissous l'équipe Mission Alignment, et Joshua a été nommé futurologue en chef de l'entreprise.
Mais seulement 5 mois plus tard, Joshua a annoncé qu'il quitterait officiellement l'entreprise où il avait passé 9 ans, le 24 juillet.
Quant aux raisons de son départ, Joshua n'en a pas trop parlé.
Il a simplement déclaré que son départ n'était pas dû à un événement spécifique, ni à un coup de tête, mais qu'il y réfléchissait depuis longtemps.
Pour un AGI sûr
Dans son long message sur X, Joshua a qualifié ce départ de "diplôme".
Il a écrit qu'il avait rejoint OpenAI en 2017 en tant que stagiaire de 25 ans (diplômé de l'UC Berkeley). À l'époque, les ordinateurs ne pouvaient pas vraiment dialoguer avec les humains, encore moins penser.
Aujourd'hui, il a 34 ans, est père d'un enfant de 2 ans, et les ordinateurs commencent à résoudre des problèmes scientifiques de pointe.
Joshua décrit ces 9 années comme "une décennie où se sont produits plusieurs siècles de changements".
Pour l'avenir, il reste optimiste.
Je crois que nous pouvons créer un monde où "satisfaire les besoins fondamentaux de chacun" n'est plus un problème à résoudre ; au contraire, nous trouverions honteux de fixer la barre si bas. Je crois que nous pouvons réaliser un monde rempli de paix, d'une prospérité sans précédent et de toutes sortes de possibilités sociales et scientifiques inimaginables. Quoi que je fasse ensuite, je continuerai à travailler avec vous pour que cette vision devienne réalité.
Enfin, il conclut par une phrase :
À un AGI sûr.
Cette phrase reflète bien sa position chez OpenAI ces 9 dernières années.
Selon WIRED, OpenAI n'a pas encore annoncé qui succédera à Joshua. Ce poste se trouve à l'intersection des équipes de sécurité et de politique de l'IA de l'entreprise, et son travail consiste notamment à étudier les dommages et bénéfices potentiels de la montée en puissance de l'IA.
Auparavant, Joshua avait également collaboré avec des dirigeants comme Chris Lehane, responsable des affaires mondiales d'OpenAI, pour promouvoir une réglementation gouvernementale alignée sur la mission d'OpenAI.
En d'autres termes, il n'était pas un "futurologue" qui se contentait de faire des prédictions.
Pour être plus précis, son rôle interne chez OpenAI était de faire autre chose : alors que les capacités des modèles avançaient à toute vitesse, il rappelait constamment à l'entreprise la vieille question.
Où cette voie mène-t-elle finalement ?
L'homme qui a interrompu Musk
En revenant sur la carrière de Joshua chez OpenAI, le moment le plus dramatique s'est produit en 2018.
En avril-mai de cette année, lors du procès mondial de Musk contre OpenAI, Joshua a témoigné et s'est rappelé d'un discours d'adieu de Musk en 2018, avant son départ d'OpenAI :
À l'époque, il avait interrompu Musk pour souligner que le plan de développer l'AGI chez Tesla pourrait se faire au détriment de la sécurité.
Il est rapporté que Musk aurait alors traité Joshua de "jackass" (âne/abruti).
Par la suite, cet incident est même devenu une sorte de "légende urbaine" au sein d'OpenAI.
Dario Amodei, actuel PDG d'Anthropic, et David Luan, devenu plus tard responsable du laboratoire AGI d'Amazon, ont même offert à Achiam un trophée en or sur lequel était gravé :
"Pour la sécurité, n'arrêtez jamais d'être ce jackass."
Chaque fois qu'un responsable sécurité part, OpenAI... ?
Sur Reddit, des internautes ont rapidement placé cet événement dans la "liste des départs des responsables sécurité d'OpenAI".
Quelqu'un a plaisanté en disant :
Ilya est parti, Jan est parti, maintenant Joshua part aussi. Chaque fois que la personne responsable de l'alignement part, il semble qu'OpenAI arrive quelque chose.
Cette boutade est bien sûr exagérée.
Mais ces deux dernières années, les changements dans la ligne sécurité d'OpenAI ont effectivement été nombreux.
Le Jan mentionné par l'internaute est Jan Leike, qui avait co-dirigé l'équipe Superalignment d'OpenAI, chargée de rechercher comment maintenir les modèles d'IA avancés sous contrôle humain. En 2024, il a quitté OpenAI pour rejoindre Anthropic.
La même année, Miles Brundage, responsable de la recherche politique d'OpenAI, ainsi que Steven Adler, qui était chargé de la recherche sur les capacités dangereuses des modèles d'IA, ont également quitté l'entreprise pour créer une organisation à but non lucratif visant à pousser les laboratoires d'IA à respecter des normes de sécurité et de sûreté plus strictes.
Andrea Vallone, qui était chargée d'étudier comment ChatGPT répond aux utilisateurs en difficulté psychologique ou émotionnelle, a également quitté OpenAI fin 2025 pour rejoindre la "Société A", c'est-à-dire l'équipe de son ancien collègue Jan Leike.
Joshua est le dernier nom sur cette chaîne de départs.
Dans le même temps, OpenAI ajuste également les relations entre la sécurité, la recherche et les politiques.
WIRED mentionne qu'au cours de la dernière année, OpenAI a tenté de rapprocher l'équipe de recherche en IA et l'équipe politique, dans l'espoir d'élaborer des règles et normes plus aptes à anticiper l'évolution technologique. Certains chercheurs, dont Boaz Barak, Noam Brown et Adrien Ecoffet, commencent également à s'impliquer davantage dans les travaux liés aux politiques.
D'un autre côté, Dean Ball, ancien conseiller en IA de la Maison Blanche, a rejoint OpenAI cette semaine en tant que responsable Strategic Futures. Il aura une brève période de transition avec Joshua, et devrait par la suite continuer à collaborer avec les chercheurs et les responsables politiques.
Cela rend le départ de Joshua encore plus subtil.
D'une part, OpenAI resserre les liens entre "sécurité" et "politique" ; d'autre part, la personne qui a dirigé Mission Alignment puis occupé le poste de Chief Futurist choisit ce moment précis pour quitter le laboratoire.
Joshua a écrit dans sa lettre de démission : Le monde connaît désormais ce secret (réaliser l'AGI). Désormais, il est également possible de poursuivre cette mission en dehors des murs des laboratoires de la frontière (frontier labs).
C'est peut-être la phrase la plus intrigante dans toute cette affaire.
Ces dix dernières années, le rythme de développement de l'IA a effectivement été enthousiasmant. OpenAI n'est plus depuis longtemps ce petit laboratoire de recherche, mais est devenu une nouvelle institution qui doit simultanément faire face aux produits, aux capitaux, aux politiques, aux tribunaux et au public.
Mais en fin de compte, ces dix dernières années ne représentent qu'une petite étape dans le voyage de l'IA, et la route à venir sera peut-être encore plus longue.
Assez longue pour réduire n'importe quel Goliath à l'état de nain.
Références
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
Cet article provient du compte WeChat officiel "Quantum Bit" (量子位), auteur : henry
