Aujourd’hui, un tweet posté il y a deux jours commence à circuler, ne contenant que cinq mots : Scott Gray a quitté OpenAI.
Cet ingénieur renommé, surnommé le « dieu des kernels CUDA, programmeur GPU le plus puissant au monde », devient un autre talent clé à quitter OpenAI cette année. Bien qu’il n’ait pas confirmé lui-même sur les réseaux sociaux et que son profil LinkedIn ne soit pas encore mis à jour, ses biographies personnelles sur X et Bluesky ont été modifiées de « GPU Geek at @OpenAI » à « Ancien GPU geek at @OpenAI ». Il y a également ajouté la phrase : « Actuellement indépendant, explorant des approches d’IA inspirées des neurosciences ».
Un ingénieur ayant passé dix ans chez OpenAI annonce son départ par une simple ligne de description.
Le hasard fait bien les choses. Il y a exactement dix ans, le 16 août, OpenAI publiait un article de blog intitulé « Team update », présentant les cinq nouveaux membres à temps plein ayant rejoint le mois-ci. Sur la liste figuraient Dario Amodei, Filip Wolski, Jack Clark, Scott Gray et Zain Shah.
https://openai.com/index/team-update-august/
Dix ans plus tard, Dario est PDG d’Anthropic, Jack Clark s’occupe des politiques chez Anthropic, et Scott Gray a marqué OpenAI comme « ancien ».
Jusqu’à présent, OpenAI n’a publié aucune déclaration concernant le départ de Scott Gray, et Gray lui-même n’a pas fourni d’explications détaillées. La source commune de tous les articles actuels est la modification de la description de ses comptes de réseaux sociaux, suivie d’un post divulgué diffusé sur X. La date exacte de départ, sa nouvelle orientation et s’il a déjà rejoint une nouvelle entreprise restent inconnus du public.
Un autre détail sur son compte mérite d’être mentionné. Le dernier tweet original de Gray sur X date du 20 novembre 2023, avec ce contenu : « OpenAI n’est rien sans ses employés. » C’était trois jours après le limogeage de Sam Altman par le conseil d’administration, alors que plus de sept cents employés signaient une pétition exigeant la démission du conseil. Cette phrase était copiée-collée à l’intérieur d’OpenAI à l’époque, représentant une allégeance collective. Depuis, bien qu’il ait répondu à certains tweets (ses réponses ont également cessé après février 2025), il n’a plus publié de tweet original.
Présentation de Scott Gray
Nous avons déjà publié un article dédié à Scott Gray, intitulé « Le dieu des kernels CUDA, le programmeur GPU le plus puissant du monde ? Qui est ce génie de l’ombre chez OpenAI ? » Voici un bref rappel.
Sa renommée a commencé à l’époque de Nervana Systems. À cette période, la majorité des développeurs s’appuyaient sur les bibliothèques officielles de NVIDIA, CUDA C/C++, cuBLAS, cuDNN, etc. Ces multiples couches d’abstraction logicielle masquaient les détails matériels, mais imposaient aussi des plafonds de performance. Gray jugeait nécessaire de contourner ces couches d’abstraction. Il a donc créé maxas, un assembleur pour l’architecture Maxwell, permettant aux développeurs d’écrire directement du code machine SASS, de répartir manuellement les registres, de gérer la latence mémoire et de contrôler le pipeline d’instructions.
Pour prouver la viabilité de cette approche, il a écrit à la main un kernel SGEMM avec maxas. Sur le GPU GM204, ce kernel atteignait 98 % du pic théorique du matériel et était 4,8 % plus rapide que cuBLAS, la bibliothèque officielle propriétaire de NVIDIA, également écrite à la main par des experts. Par la suite, maxDNN a étendu cette même méthodologie à la convolution : il atteignait une efficacité de calcul stable de 93 % à 95 % sur toutes les couches de convolution d’AlexNet, alors que l’efficacité de cuDNN de l’époque fluctuait considérablement entre 32 % et 57 %.
Ceci constitue la base méthodologique de tout son travail ultérieur : refuser les limites de performance imposées par les couches d’abstraction.
Dans la mise à jour de l’équipe OpenAI d’août 2016, l’introduction officielle de sa part ne comportait que deux évaluations techniques, résumées ainsi : il s’était précédemment concentré sur l’optimisation des performances des réseaux neuronaux profonds sur GPU chez Nervana, et ses optimisations au niveau assembleur pour l’algèbre linéaire dense et la convolution « restent les plus rapides à ce jour ». Cette section mentionnait également que lorsqu’il n’écrivait pas de code, il lisait généralement les dernières recherches en neurosciences et domaines connexes.
Il semble que sa nouvelle orientation, « des approches d’IA inspirées des neurosciences », soit un retour à cet intérêt constant.
Après avoir rejoint OpenAI, son rôle est passé d’« optimiseur » à « facilitateur ». En 2017, il a publié, avec Alec Radford et Durk Kingma, les kernels GPU pour le bloc sparse. Contrairement au sparse non structuré qui supprime des poids individuels, le bloc sparse découpe la matrice de poids en blocs de taille fixe et les met à zéro en entier. Un kernel spécifique saute complètement les blocs nuls lors du calcul, ce qui peut être plusieurs ordres de grandeur plus rapide que cuBLAS pour les matrices denses ou cuSPARSE pour les matrices sparse génériques. Ce set de kernels a été open source à l’époque, stimulant directement une série de travaux ultérieurs sur l’attention sparse.
Schéma des kernels de bloc sparse d’OpenAI, https://cdn.openai.com/blocksparse/blocksparsepaper.pdf
En poursuivant cette voie, en 2019, l’article « Generating Long Sequences with Sparse Transformers » avait pour auteurs Rewon Child, Scott Gray, Alec Radford et Ilya Sutskever. Ils réduisaient la complexité temporelle et mémoire de l’attention de O(n²) à O(n√n). L’article listait explicitement les « kernels rapides pour l’entraînement de l’attention » comme l’une des trois contributions principales.
Par la suite, son nom apparaît dans la liste des auteurs de GPT-3, de « Scaling Laws for Neural Language Models », de DALL·E et dans le rapport technique d’OpenAI Five.
Durant cette période, il a également acquis le surnom de « dieu des kernels CUDA ». C’était en septembre 2025, lorsqu’un ancien employé d’OpenAI, Rohan Pandey, a posté sur X que l’entreprise n’avait qu’environ une personne responsable des kernels CUDA côté inférence. Ses collègues appelaient son kernel d’attention « the Bob kernel », un kernel exécuté quotidiennement des billions de fois sur des centaines de milliers de GPU. Après la viralité du post, les commentaires ont largement spéculé que « Bob » était Scott Gray.
Les posts connexes mentionnaient également : dans le monde entier, il y a probablement moins d’une centaine de personnes capables d’écrire des kernels CUDA hautes performances pour le processus d’entraînement (en particulier la rétropropagation). Cette compétence exige une maîtrise simultanée de la théorie du calcul parallèle, de l’architecture matérielle GPU et des algorithmes d’apprentissage profond, tandis que la plupart des professionnels restent au niveau applicatif ou d’optimisation de l’inférence.
Et maintenant, Scott Gray est parti.
2026, OpenAI a perdu plusieurs talents
OpenAI a perdu de nombreux talents cette année. Selon un inventaire du blogueur X Chubby, OpenAI a vu 12 leaders seniors quitter l’entreprise cette année, couvrant les opérations, le commerce, les produits, la recherche, la sécurité, l’éthique et le matériel.
Il y a quelques jours, Brad Lightcap, qui a travaillé chez OpenAI pendant huit ans en tant que CFO puis COO, a annoncé sur X son départ, déclarant vouloir « start something new ». Deux jours plus tard, Denise Dresser, Chief Revenue Officer depuis décembre dernier, a annoncé son départ, remplacée par Dali Rajic, ancien président et COO de Wiz.
Du côté commerce et produit, la CEO des applications, Fidji Simo, a pris un congé pour raisons de santé en avril et a quitté son poste à temps plein en juillet pour devenir consultante à temps partiel. L’ancienne CMO Kate Rouch a quitté ses fonctions en avril pour suivre un traitement. Le CTO de l’entreprise, Srinivas Narayanan, a également annoncé son départ en avril. Du côté recherche et produit, Kevin Weil, à l’origine d’OpenAI for Science, et Bill Peebles, responsable de Sora, ont annoncé leur départ le même jour en avril. Weil travaille actuellement sur une startup d’IA scientifique. Barret Zoph est revenu de Thinking Machines Lab en janvier pour diriger les ventes d’IA d’entreprise chez OpenAI, puis est à nouveau parti en juin, la société n’ayant pas précisé la raison.
Trois départs se sont concentrés en juillet dans les équipes sécurité et éthique : Johannes Heidecke, responsable des systèmes de sécurité, a quitté l’entreprise lors d’une réorganisation, ses responsabilités étant intégrées au département de recherche dirigé par Mia Glaese. Le chief futurist Joshua Achiam a quitté l’entreprise après près de neuf ans ; l’équipe de mission alignment qu’il dirigeait avait été dissoute en février. La responsable de l’éthique, Chloé Bakalar, est partie après moins d’un an. Plus tôt, en mars, la responsable de la robotique et du matériel grand public, Caitlin Kalinowski, a démissionné en raison de désaccords sur la coopération de l’entreprise avec le Pentagone. Sur LinkedIn, elle a indiqué que ces questions méritaient un examen plus approfondi, ajoutant plus tard que son objection concernait principalement le processus de gouvernance.
Cette liste en omet un autre : en janvier, Jerry Tworek, vice-président de la recherche chargé des modèles d’inférence, a quitté l’entreprise après près de sept ans pour créer une startup, souhaitant explorer des directions de recherche « difficiles à réaliser au sein d’OpenAI ».
Conclusion
Le départ de Scott Gray ne modifiera peut-être pas immédiatement le rythme des publications de modèles d’OpenAI. Le système d’ingénierie accumulé sur dix ans ne s’arrêtera pas en raison du départ d’une personne. Mais pour une entreprise de plus en plus dépendante de l’échelle, de l’efficacité et du contrôle des coûts, perdre un tel ingénieur capable de pousser les performances matérielles à l’extrême et ayant participé profondément à de multiples modèles clés n’est pas un changement à prendre à la légère.
Le moment de ce départ mérite également d’être noté : OpenAI se prépare à entrer en bourse, devenant une entreprise géante qui poursuit des revenus et participe à une compétition mondiale d’infrastructures. Maintenant, ceux qui l’ont façonnée à ses débuts réévaluent également ce qu’ils veulent faire ensuite.
Le choix de Scott Gray n’a pas été de rejoindre un autre laboratoire de pointe ou d’annoncer une startup. Il a simplement indiqué dans sa description personnelle qu’il explorait de manière indépendante des « approches d’IA inspirées des neurosciences ». De l’ingénieur qui lisait des articles de neurosciences durant son temps libre selon la présentation officielle de 2016, à celui qui réintroduit les neurosciences dans sa bio personnelle dix ans plus tard, cela ressemble davantage à un retour après un long détour : après avoir exploité au maximum le paradigme de calcul actuel, il commence à chercher une autre possibilité.
En 2023, Gray a écrit « OpenAI n’est rien sans ses employés ». Aujourd’hui, en y repensant, cette phrase était à la fois une prise de position lors de la crise de l’entreprise et une note tardive. OpenAI ne perdra pas tout à cause du départ d’une personne, mais la direction d’une entreprise est finalement façonnée par ceux qui restent, ceux qui partent, et les problèmes que chacun choisit d’explorer.
Cet article provient du compte WeChat officiel « Machine Heart » (ID : almosthuman2014), auteur : Suivi de l’IA.
