Hé, tu es au courant ?
Les beaux jours des chercheurs humains, comptés au plus juste, ne dureront plus que deux ans.
Dans deux ans, faire de la recherche en IA pour un humain, ce sera comme jouer aux échecs aujourd’hui.
Tu pourras toujours jouer, mais personne ne se souciera vraiment de ton niveau.
C’est la dernière provocation lancée par Jerry Tworek, ancien responsable des modèles de raisonnement chez OpenAI.
Il a rejoint OpenAI en 2019 et y est resté sept ans. À l’époque où l’apprentissage par renforcement ne parvenait pas à passer à l’échelle, c’est lui qui a persévéré et l’a poussé vers le haut. Les deux armes redoutables que sont o1 et o3 sont le fruit de son travail à la tête des équipes.
« Nous voulons construire une AGI. » C’est toute la feuille de route qu’Ilya a présentée en réunion générale lorsqu’il a rejoint OpenAI en 2019. Sept ans plus tard, il s’est lancé seul.
Ce qui est encore plus glaçant, c’est qu’il n’est pas le seul à le dire. La blague interne la plus en vogue actuellement parmi les chercheurs en IA est la suivante —
Il ne nous reste plus que quelques jours de boulot, profitons-en tant qu’on peut encore travailler, puis partons tous en retraite.
Tout le monde se répète cette blague noire. Mais chaque personne qui la raconte sait parfaitement, au fond d’elle-même.
Cette blague, c’est sûrement la réalité.
Et ce n’était que l’apéritif. Durant tout l’entretien, il a enchaîné les phrases chocs :
- Les agents ont bien de la créativité, mais c’est une créativité extrêmement médiocre, déversée en masse. Les idées sont variées, mais elles sont aussi généralement très mauvaises.
- Dans le monde entier, le nombre de personnes qui comprennent vraiment de bout en bout comment entraîner et déployer un modèle de pointe, c’est peut-être trente à cinquante. Tous les autres leur servent d’assistants.
- Considérer Transformer comme la solution optimale, cette hypothèse est presque impossible à soutenir.
- Durant les sept ans passés chez OpenAI, nous n’avons vraiment sérieusement tenté de remplacer l’architecture sous-jacente que trois ou quatre fois.
- L’idée que le monde a besoin que nous travaillions pour tourner, ce postulat n’a jamais été valable.
Voici la version retravaillée, Bonne lecture.
La moitié du travail, personne ne le fait déjà plus
Le chiffre de deux ans, ça n’a rien à voir avec les benchmarks, ni avec la puissance de calcul.
Il compte combien de tâches dans la recherche sont encore accomplies par des humains.
Et ce travail a depuis longtemps été coupé en deux.
La première partie, c’est avoir des idées, comprendre dans quelle direction aller. L’autre partie, c’est exécuter, transformer les idées en code fonctionnel et récupérer les données.
Et la partie exécution, elle revient déjà essentiellement aux Agents.
Tworek a fondé en avril une société appelée Core Automation, dont le slogan est de construire le laboratoire d’IA le plus automatisé au monde.
Chez eux, le cycle complet d’une expérience est passé directement d’un mois à un jour. L’efficacité a été multipliée par trente !
Cependant, la partie « avoir des idées », les Agents ne peuvent pas encore s’en charger pour le moment. La raison est la suivante —
Ils appartiennent absolument à l’espèce très créative.
Mais ils gaspillent cette créativité d’une manière extrêmement médiocre, par déversement massif. Les idées sont effectivement très variées, mais elles sont aussi généralement très mauvaises.
Dans le monde, il n’y a que trente à cinquante personnes
À entendre ça, la partie « avoir des idées » semble encore solide.
Mais le nombre de personnes réellement capables d’avoir des idées n’est déjà plus très élevé.
Pendant l’interview, l’animateur a révélé qu’un chercheur interne d’OpenAI lui avait confié —
Dans le monde entier, le nombre de personnes qui comprennent vraiment de bout en bout comment entraîner et déployer un modèle de pointe, c’est peut-être trente à cinquante.
Tous les autres servent d’assistants à ces quelques dizaines de cerveaux, y compris la grande majorité des employés officiels de la société la plus en pointe.
Tworek n’a pas contredit.
Lui aussi pense que toute équipe de haut niveau fonctionne ainsi. Quelques individus fixent la direction, traînant derrière eux toute une machine d’exécution qui vrombit.
Pour comprendre à quel point ces quelques dizaines de personnes sont recherchées, il suffit de regarder sa propre liste de recrutement.
Le cofondateur de Core Automation, Rohan Anil, vient d’Anthropic, et avant cela de Google DeepMind.
Anmol Gulati, qui a travaillé sur Gemini chez DeepMind, a également été débauché. Même l’ancienne responsable des ressources humaines d’OpenAI, Julia Villagra, les a suivis.
Tous les laboratoires pêchent dans le même bassin. Et ce bassin, il ne contient qu’une cinquantaine de poissons.
Donc le chiffre de deux ans, il ne concerne pas toute l’humanité.
Il indique combien de temps ces quelques dizaines de personnes pourront encore tenir.
Sept ans, l’architecture n’a été sérieusement modifiée que trois ou quatre fois
Puisqu’il ne reste que quelques dizaines de personnes, quel est le dernier mur qui bloque l’IA ?
La réponse de Tworek n’a qu’un mot : Transformer.
À ses yeux, cette chose n’est presque certainement pas la solution optimale.
Premièrement, le modèle ne peut pas continuer à apprendre après son déploiement. Tu peux discuter avec lui autant que tu veux, il ne deviendra pas plus fort, la prochaine conversation sera avec le même lui qu’avant. La fenêtre de contexte ne tient pas non plus, il dit qu’après vingt minutes d’utilisation de Codex, il doit le compresser une fois.
Deuxièmement, si on essaie de compenser par du fine-tuning continu, on se rend compte que non seulement c’est extrêmement inefficace, mais en plus il y a un oubli catastrophique, il apprend le nouveau et oublie l’ancien.
Donc une grande partie du travail de l’industrie ces dernières années autour de Transformer, consiste en fait à le rendre moins cher, très peu de gens essaient vraiment de le rendre plus fort.
Et ce que Tworek veut vraiment, ce n’est pas dans l’architecture elle-même.
Il veut des modèles qui peuvent continuer à apprendre au moment du test, des modèles qui peuvent grandir continuellement à partir des interactions utilisateurs, des données utilisateurs. Changer d’architecture n’est qu’un moyen pour atteindre cette chose.
Ces principes, tout le monde dans le milieu les comprend. Mais après tant d’années, pourquoi Transformer tient-il toujours aussi solidement ?
La raison derrière est simple au point d’être absurde — On n’a tout simplement presque jamais essayé.
Durant les sept ans chez OpenAI, le nombre de fois où l’on a sérieusement tenté de remplacer l’architecture sous-jacente n’est que de trois ou quatre.
Le processus est le suivant.
Le chercheur écrit d’abord une petite expérience de validation, qui va tourner au moins trois mois une fois écrite. Si les résultats semblent prometteurs, on ose alors passer à l’échelle supérieure.
Et passer à l’échelle supérieure, cela signifie qu’il faut convaincre par la parole une dizaine de personnes détenant un pouvoir de vie ou de mort, puis ces dix personnes vont investir trois à six mois dans votre gouffre sans fond.
Finalement, soit on est écrasé par l’élan de Transformer qui a déjà pris de l’ampleur comme une boule de neige, soit on est partiellement absorbé, devenant une simple vis sur son corps.
Sept ans, trois ou quatre fois. C’est toute la capacité d’innovation architecturale du laboratoire d’IA le plus puissant du monde.
« Jare, voici de la puissance de calcul à brûler »
Lui-même a une fois rencontré exactement la même impasse chez OpenAI. Et ce qui l’a débloquée, c’est une phrase.
À ce moment-là, ce lot d’expériences à moitié mortes avait produit quelques « signes de vie ». Rien de bon, mais c’était un début.
Juste à ce moment critique, Jakub Pachocki, qui deviendra plus tard le scientifique en chef d’OpenAI, l’a trouvé.
« Jare, tous ces GPU sont pour toi, vois si tu peux pousser les résultats que tu as entre les mains un peu plus loin, un peu plus fort. »
« Maintenant tu as ces GPU entre les mains. » Quand il a répété cette phrase, o1 n’avait pas encore de nom.
Cette phrase l’a sorti d’un paradoxe —
Tu dois d’abord montrer des résultats, pour avoir le droit d’obtenir de la puissance de calcul.
Mais tu as justement besoin de cette puissance de calcul en premier lieu, pour produire des résultats.
Tworek dit que la plupart des directions de pointe sont piégées dans ce paradoxe. Les luttes sourdes dans les labos pour s’arracher la puissance de calcul, au fond, cherchent toutes un moyen de sortir.
Et la sortie, c’est parfois juste un tout petit peu de confiance de la part de la direction.
Il suffit que quelqu’un d’en haut dise : j’espère que tu auras un quota décent de puissance de calcul pour travailler sérieusement dessus. C’est suffisant.
Une fois la vanne ouverte, on ne peut plus arrêter.
L’apprentissage par renforcement a franchi plusieurs ordres de grandeur à partir de ce point.
Puis o1 a éclos, cette voie des modèles de raisonnement que tant de gens avaient condamnée à mort, il a réussi à la faire vivre.
Cent mille dollars, ça vaut un expert
Et cette fois, il n’a plus besoin d’attendre que quelqu’un donne son accord.
L’étape la plus coûteuse de toute la chaîne, c’est de traduire des idées abstraites en code qui peut réellement tourner. Et c’est précisément le travail que les Agents actuels font le mieux.
Par exemple, Core Automation a utilisé cette approche pour s’attaquer au noyau des GPU.
Concrètement, ils ont donné un noyau de décomposition QR à un Agent de programmation qui a tourné pendant quatre semaines, brûlant environ cent mille dollars de coûts d’appel, et ont finalement poussé la vitesse de ce noyau à soixante fois celle d’origine.
Ce travail relève de l’ingénierie de performance bas niveau, il s’agit d’optimiser la façon dont un calcul matriciel tourne plus vite sur une carte graphique, habituellement réalisé ligne par ligne à la main par une poignée d’experts.
Et ces experts, il n’y en a que quelques-uns dans le monde.
Maintenant, cent mille dollars peuvent en remplacer un. Il n’a pas besoin d’être convaincu, ni de trois à six mois.
Le goulot d’étranglement qui bloquait depuis sept ans a été franchi.
Alors qu’est-ce qu’on pourra encore faire après ?
Même l’architecture la plus coriace est en train de céder, alors le volant entre les mains de ces quelques dizaines de personnes ne pourra plus être tenu bien longtemps.
À la fin de l’entretien, l’animateur a soulevé la question en lui demandant clairement, quand ce jour arrivera vraiment, ce qu’il restera à faire pour les humains.
À cela, Tworek a décrit deux scènes.
La première, c’est la Grèce antique.
On se retrouve sur l’agora, on discute tranquillement de philosophie toute la journée, puis on va faire du sport, manger des olives, boire du vin.
Lui-même a ri après l’avoir décrite, reconnaissant que c’était probablement une projection de ses propres désirs.
« Nous nous retrouvons sur l’agora, puis nous discutons. » Ses propres mots pour décrire la vie quotidienne humaine post-AGI, il a ri lui-même après les avoir prononcés.
La deuxième, c’est le lycée, ou disons l’université.
Il pense que les humains devraient conserver une quête de « l’excellence » en elle-même. Continuer à apprendre de nouvelles choses avec avidité, pousser son corps et son esprit jusqu’à leurs limites.
Cela ressemble un peu au sport professionnel, il n’y a aucune raison économique qui t’oblige à suer sang et eau, mais la fierté au fond de l’homme, c’est d’essayer d’atteindre cette chose appelée « grandeur ».
Nous devons trouver diverses façons de faire cela.
Parce que dans le monde à venir, il n’y aura plus de choses du genre « si tu ne le fais pas, le monde va s’effondrer ». Le monde continuera de tourner tout seul sur l’infrastructure que nous aurons déjà construite.
« Nous devrions continuer à apprendre. » Il présente cela comme un devoir, pas un passe-temps.
Puis il a calmement dévoilé ses cartes.
Nous devons travailler pour que ce monde fonctionne. Cette hypothèse, il n’est pas nécessaire qu’elle soit valable.
« Beaucoup de gens tirent leur valeur personnelle du travail. » Il reconnaît que c’est l’obstacle le plus difficile à franchir, y compris pour lui-même.
Lui-même est sur cette liste
Pour être honnête, ce qui fait le plus froid dans le dos après avoir écouté tout l’entretien, ce n’est pas ce compte à rebours de deux ans.
C’est qu’il sait lui-même qu’il est en train d’appuyer sur l’accélérateur de ce compte à rebours.
La chose qu’il veut construire, par définition, c’est quelque chose qui peut apprendre par lui-même, devenir plus fort par lui-même, sans plus besoin que quelqu’un reste à côté pour le nourrir. Si on réussit, les postes de ces quelques dizaines de personnes disparaîtront encore plus vite.
Et il a une phrase encore plus dure, la première qu’il condamne, c’est lui-même.
Si tu n’es pas le laboratoire avec les réserves de calcul les plus terrifiantes, le plus massif, tu mourras dans d’atroces souffrances.
Quand il a dit ça, Core Automation n’existait que depuis quatre mois, et son chiffre d’affaires était de zéro.
Il dit que depuis qu’il a fondé son entreprise, presque chaque semaine, quelqu’un vient lui dire : Jare, c’est trop tard, cette échelle qui mène au ciel a déjà été remontée.
Sa réponse n’a qu’une phrase, son leitmotiv maison.
Les gens de notre entreprise aiment dire : tout est une question de compétence.
Traduit, cela signifie : à la fin, ne blâme pas l’environnement, blâme-toi toi-même d’être trop nul.
Dis donc, cette phrase, dans le contexte de cet entretien, a vraiment un petit quelque chose.
En repensant à cette blague à la mode du début.
Il ne nous reste plus que quelques jours de boulot, profitons-en tant qu’on peut encore travailler.
Y a-t-il de l’excitation, ou de la tristesse dans ce ton ? Nous ne le savons pas.
Parce que pour ceux qui disent cela, ces deux émotions ne font qu’une.
Tworek dit que le rythme dans ce domaine est extrêmement épuisant, après tant d’années à travailler comme ça, on est vraiment, vraiment fatigué.
« Mais si nous croyons vraiment que c’est la période la plus importante de toute notre carrière. »
« Alors c’est probablement… extrêmement mérité. »
Références :
https://x.com/MTSlive/status/2092387349623935322
Cet article provient du compte WeChat public « New Zhi Yuan », auteur : ASI Révélations, éditeur : Moïse
