"Si le frère veut réinitialiser, le frère peut réinitialiser à tout moment."
Le parrain cybernétique, alias le dieu des réinitialisations de quota Codex, Tibo, l'a déclaré avec confiance dans le dernier épisode du podcast de Matthew Berman.
Et le plus intéressant, c'est que pour les réinitialisations, Tibo s'est spécialement procuré un bouton physique.
En tant que responsable actuel de Codex, au-delà d'expliquer comment offrir des avantages à tout le monde, Tibo a également revisité en détail sa carrière précédente chez Google lors de ce podcast et a révélé certains travaux importants en cours chez lui et chez OpenAI.
On peut dire que c'est une occasion rare pour le public de mieux connaître ce nouveau responsable produit d'OpenAI.
De la culture produit d'OpenAI, la prochaine génération d'Agents, le mode ultra-rapide (Ultra Fast) de GPT, jusqu'à l'interaction future homme-machine, l'arrêt du développement de modèles de pointe chez OpenAI, le RSI, presque tout y est passé, rien n'a été omis...
Les points de vue clés de Tibo sont les suivants :
- ChatGPT et Codex finiront par fusionner. À l'avenir, il n'y aura pas deux produits "Agent de programmation" et "Assistant de discussion", mais un seul AGI hautement personnalisé, ajustant automatiquement son interface en fonction des tâches, des capacités et des habitudes de chacun.
- Le cœur de la prochaine génération d'Agents n'est pas d'ajouter plus de compétences, de mémoire ou de sous-agents, mais de faire "disparaître" ces mécanismes. Ce que les utilisateurs veulent vraiment, c'est un partenaire qui les comprend de manière continue, ainsi que leurs objectifs, leur quotidien et le contexte de leur équipe, et non pas de gérer constamment des fichiers de compétences, des mémoires et des réseaux d'agents.
- Les ordinateurs portables deviendront un nouveau goulot d'étranglement pour les Agents IA, la prochaine génération d'Agents se dirigera naturellement vers le cloud et des ressources de calcul plus massives.
- Lancer 10 à 15 Agents simultanément aujourd'hui, c'est compenser la lenteur des modèles par la concurrence ; une fois que l'Ultra Fast réduira la réponse à une vitesse proche de la réflexion humaine, les flux de travail reviendront à l'interaction en temps réel et au "flow", plutôt que de changer constamment de contexte.
- Ne pas accorder d'importance à la concurrence. La différenciation narrative d'OpenAI par rapport à Anthropic n'est pas simplement "un modèle plus fort", mais "offrir les capacités les plus fortes au plus grand nombre". OpenAI met l'accent sur une large distribution, la participation de la communauté et la réduction des barrières d'utilisation, ce qui est aussi une raison importante pour l'intégration de Codex dans ChatGPT.
- OpenAI utilise déjà "l'auto-amélioration récursive" en pratique. Il ne s'agit pas seulement de faire étudier des modèles par des modèles, mais aussi de faire optimiser par les modèles les plus forts les noyaux CUDA, la pile d'inférence et les infrastructures, créant ainsi une boucle vertueuse "modèle plus fort → efficacité accrue → plus de puissance de calcul → modèle plus fort".
(Le nom complet de Tibo est Thibault Sottiaux, il est belge, a étudié les mathématiques appliquées à l'Université catholique de Louvain (UCLouvain). En 2015, il rejoint Google, travaillant initialement sur Google Maps, puis entre chez Google DeepMind, responsable de l'infrastructure pour la recherche en IA, et participe à des projets de pointe comme AlphaGo. En 2024, il rejoint OpenAI et commence à diriger le projet Codex. Avec l'explosion de la vague du codage IA, Codex est rapidement devenu l'un des produits à la croissance la plus rapide d'OpenAI, et Tibo est ainsi entré dans le champ de vision de la communauté des développeurs. Comme il répond souvent personnellement aux retours des utilisateurs et aide les développeurs à réinitialiser leurs quotas d'utilisation de Codex, les internautes l'ont respectueusement surnommé "parrain cybernétique".)
Voici le dialogue complet, organisé :
Expérience chez Google et DeepMind
Animateur : Super, j'ai vraiment hâte de discuter avec toi. Je voudrais commencer par parler de ton expérience chez Google. Tu étais dans l'équipe DeepMind à l'époque. Avant l'apparition de ChatGPT, Google avait quelque chose appelé LM Chat.
Tu avais posté que Google était trop prudent, n'osant pas le publier ; DeepMind était aussi empêché de lancer des produits qui pourraient impacter Google. Je pense souvent à ça. À l'époque, tu travaillais sur ces produits, et c'était bien avant que ChatGPT ne change vraiment le monde, qu'est-ce que tu pensais à ce moment-là ?
Tibo : C'était une période très excitante. DeepMind était un endroit très créatif.
Ma spécialité personnelle était de construire des infrastructures et des produits pour accélérer la recherche. À l'époque, une équipe travaillait sur les modèles de langage et leur scaling.
Plus tard, ils avaient obtenu des résultats assez bons, donc il était naturel de se demander : pouvait-on en faire un produit qui pourrait dialoguer avec toi et être utilisé pour diverses choses ?
Alors, des idées comme LM Chat sont naturellement apparues. C'était d'abord un projet interne, puis une vision est née d'en faire un outil ouvert au public.
Animateur : C'était en quelle année ?
Tibo : Environ un an avant l'apparition de ChatGPT.
Tibo : De plus, nous travaillions sur divers autres projets, je ne vais pas entrer dans les détails. C'était vraiment un endroit très créatif. Simplement, DeepMind n'était pas une organisation conçue pour livrer des produits ;
En comparaison, OpenAI est très différent sur ce point. Nos équipes de recherche et produit collaborent aujourd'hui de manière extrêmement étroite.
Nous concevons ensemble, nous co-créons beaucoup de choses. Nous sommes très enclins à pousser les produits, et très enclins à ce que les gens puissent les utiliser. J'aime beaucoup ça. C'est aussi ce qui m'a attiré ici : la mission, les talents, et la densité de talents. OpenAI a tellement de choses formidables.
Animateur : Lorsque tu participais à LM Chat à l'époque, savais-tu déjà que c'était spécial, ou qu'il deviendrait spécial ?
Tibo : Cela semblait vraiment très spécial. Ce genre de modèle te faisait réaliser pour la première fois : il pouvait générer du texte cohérent et fournir de l'aide. Au début, c'était juste amusant, puis c'est devenu de plus en plus utile.
Animateur : Tu dis que tu y penses souvent, je comprends très bien. Je pense que Google s'est mis des bâtons dans les roues à bien des égards. Quelles leçons as-tu tirées de là et apportées à OpenAI ?
Tibo : Oui, c'est pourquoi j'y pense souvent. J'y pense en termes de culture d'équipe et de culture globale d'OpenAI : quelles bonnes parties conserver, quelles choses ne pas faire.
La culture d'OpenAI est très ascendante et très responsabilisante. Les gens peuvent proposer diverses idées, se rassembler et lancer des choses très rapidement. Pour les nouvelles idées de produits, il y a globalement presque aucune résistance. C'est très motivant et amusant ; tout est fait pour avoir un impact positif sur le monde. Conserver cela est très important pour moi.
Une autre chose tout aussi importante, c'est de ne pas laisser cela devenir un bazar, n'est-ce pas ? On ne veut pas finir avec un fatras : plein de nouvelles fonctionnalités, mais sans direction globale ni cohérence. Il faut donc l'équilibrer avec un sens de la simplicité, et être fier de la qualité des produits.
Je pense que l'application iOS de ChatGPT est l'une des meilleures applications du marché. Nous voulons maintenir cela. Nous investissons beaucoup dans le plaisir, la performance, l'efficacité et la simplicité. Ce sont des principes généraux, tout en responsabilisant chacun pour essayer de nouvelles choses et livrer rapidement.
Forger la culture d'OpenAI
Animateur : Si tu devais donner des conseils aux entrepreneurs, comment cultiver une telle culture ? Quels éléments ou pratiques plus spécifiques au sein d'OpenAI recommanderais-tu aux entrepreneurs d'adopter ?
Tibo : Je pense qu'il faut avoir des convictions fermes ; en même temps, trouver un moyen de rester proche des utilisateurs tout en itérant rapidement en fonction des retours. De plus, il faut être prêt à se remettre en question. Cela n'est peut-être pas directement pertinent pour les entrepreneurs, mais pour une entreprise comme OpenAI, ça l'est.
Nous avons constamment de nouvelles recherches, de nouvelles idées ; pouvoir juger quand il faut s'y investir, même si cela signifie potentiellement réaffecter des ressources de l'activité principale, est extrêmement important. C'est difficile, mais vraiment très important.
Animateur : Exactement. C'est précisément ce que tu as décrit et que Google n'a pas réussi à faire.
Tibo : Pour être honnête, ils avaient des plans, mais tout faisait partie d'un plan plus large. Pour moi, ce n'était pas le bon endroit.
Animateur : À mesure qu'OpenAI ou n'importe quelle entreprise mûrit, maintenir cette culture de livraison rapide, de volonté de se remettre en question, devient-il plus difficile ? Surtout quand on a déjà une vache à lait qui rapporte, et en même temps quelque chose de nouveau, peut-être cool et innovant, de l'autre côté.
Tibo : Nous sommes très tournés vers l'avenir. L'avenir de l'IA, ce qu'elle sera finalement, comment les humains en bénéficieront, ne s'arrête pas et ne se soucie pas de ce que tu as construit dans le mois ou les trois prochains mois.
Par conséquent, je pense qu'il est très important de s'engager pleinement, d'avoir un regard ouvert sur sa direction, puis de réfléchir à sa propre position, en s'assurant de pouvoir attraper cette vague.
Même pour OpenAI c'est ainsi : nous entraînons des modèles, puis découvrons leurs capacités. Les tests de référence ne disent pas tout.
Nous devons passer beaucoup de temps nous-mêmes à utiliser les modèles pour réaliser : Oh, peut-être que nous n'avions pas pensé pouvoir en bénéficier de cette manière spécifique, ou, oh, il peut faire ça.
Cela change donc notre façon de penser les produits. Par exemple maintenant, nous avons lancé la nouvelle fonctionnalité vocale, elle est très agréable, et la conversation est naturelle. Elle peut aussi utiliser des outils.
Cela change beaucoup de choses. Maintenant, je passe plus de temps à lui parler directement. Une autre chose que je fais constamment, c'est la dictée vocale, car la qualité de la dictée est très, très bonne ; c'est beaucoup plus efficace que de taper des invites.
Le matin, je m'assois donc avec mon téléphone et je dis un long paragraphe : "Demander à ChatGPT de faire quelques choses..." et ensuite il le fait ; il a accès à tous mes outils. Et avant d'avoir un modèle vocal vraiment excellent, ce n'était pas possible. Cela change donc soudainement complètement ta façon de penser le produit.
L'avenir des Agents IA
Animateur : Bien, continuons à parler des nouveaux modèles, des nouveaux harness (cadres d'exécution d'agents). Il y a quelques semaines, je dois encore mentionner un autre de tes posts très intéressants : "Codex paraîtra primitif dans deux ou trois mois. Nous allons vivre une autre évolution majeure. La prochaine génération de modèles nécessite plus que votre ordinateur portable." Alors, commençons par le harness. À mesure que les modèles deviennent plus forts, quels aspects du harness offrent encore un grand espace d'innovation ?
Tibo : Il y en a trop, vraiment trop. Par exemple, la voix dont je viens de parler. Maintenant, si tu es un utilisateur expérimenté de Codex ou d'autres agents de programmation, tu t'es déjà un peu habitué à cette sensation de manque de fluidité, n'est-ce pas ?
Tu dois gérer des fichiers de compétences ; c'est une façon de lui apprendre des choses, mais je pense que beaucoup réalisent que ces fichiers sont difficiles à maintenir à long terme. La mémoire est aussi un problème : il ne se souvient pas toujours de tout ; si tu as des sous-agents, tu dois t'occuper des sous-agents et construire une sorte de petit réseau. À chaque étape de l'interaction avec lui, l'illusion qu'"il est un partenaire complet" est brisée.
Ce que tu veux vraiment, c'est quelque chose qui te comprend profondément, comprend tes objectifs, ton quotidien, et aussi ce que fait ton équipe. Idéalement, il peut aussi réagir, prendre l'initiative, t'aider au quotidien, sans briser cette illusion : c'est ton partenaire parfait à tes côtés. C'est exactement la direction dans laquelle nous nous efforçons d'aller.
Une autre chose, c'est que lorsque tu as des modèles très, très puissants, tu réalises que l'ordinateur portable lui-même devient aussi une limitation. La quantité de travail qu'un ordinateur portable peut supporter est conçue pour les humains.
Il est globalement conçu pour la quantité de travail que tu peux produire, ta vitesse de frappe et de réflexion, le nombre d'applications que tu peux ouvrir simultanément – ce sont des limites humaines.
Le modèle n'a pas les mêmes limites. Par exemple, le modèle pourrait peut-être à l'avenir gérer 100 applications ouvertes simultanément, sans aucun problème. Donc, du point de vue de l'accès aux ressources, il est clair que les modèles futurs auront besoin de plus de ressources que ce qu'un ordinateur portable peut fournir.
Animateur : Tu veux dire, je suppose, des agents cloud ? Et une fois que nous aurons l'Ultra Fast dont nous parlerons plus tard, avec une vitesse de tokens prétendument 10 à 14 fois plus rapide que Fast, la contrainte de bande passante changera. Le CPU deviendra la bande passante ; littéralement, les appels d'outils, le réseau, n'importe quel outil et toute surcharge dans la pile technologique deviendront des facteurs limitants.
Tibo : Cependant, tu peux aussi compenser en faisant plusieurs choses simultanément, en concurrence. Tu peux explorer, écrire des tests, compiler, et vérifier une nouvelle hypothèse en même temps. Ainsi, tu déplaces constamment le goulot d'étranglement, car tu peux traiter plus de choses simultanément, et le modèle peut penser et avancer très efficacement et très rapidement.
Animateur : Avec la vitesse actuelle des tokens, je me retrouve à lancer 10 à 15 agents en parallèle, ce qui me impose une charge cognitive assez importante : changer constamment de contexte, les lancer constamment, et tu peux t'attendre à ce qu'une tâche revienne seulement après 30 ou 45 minutes.
Maintenant, avec l'Ultra Fast, ce flux de travail changera radicalement ; je pense que je ne lancerai plus 10 ou 15 agents simultanément, c'est peut-être une bonne chose. Peut-être seulement trois ou quatre à la fois. Comment penses-tu que le flux de travail des développeurs indépendants évoluera avec le temps ?
Tibo : Je pense que gérer ton attention, rendre l'expérience plus adaptée à ton attention, est quelque chose auquel nous accordons beaucoup d'importance.
Comment l'IA change le flux de travail des développeurs
Tibo : Après tout, nous construisons des produits pour les humains. Nous voulons créer la technologie la plus responsabilisante pour les humains, ce qui nécessite de concevoir autour de ta capacité à effectuer plusieurs tâches : comment veux-tu gérer ton attention ? Est-ce que quelque chose doit te être présenté maintenant, ou est-il préférable de te le présenter 30 minutes plus tard ?
Et quand la vitesse de l'Ultra Fast est combinée à la voix, tu as soudainement l'impression : Bon, cette chose peut fonctionner aussi vite que moi, voire plus vite.
Tu peux donc rester dans un état de flux, concevoir constamment, voir des prototypes, générer de petits rapports en temps réel, cette sensation est vraiment bonne. Tu penses soudain : Oui, avant je faisais du multitâche avec 10 agents, cette façon de faire, je ne veux plus y retourner.
Nous nous efforçons donc d'apporter cette expérience très naturelle, et en même temps comme taillée sur mesure pour toi, tu n'as pas besoin de t'y adapter, mais la technologie s'adapte à toi.
Animateur : Ces derniers mois, il y a eu beaucoup de discussions sur les technologies de programmation par agents. Les Loops étaient populaires, le sont toujours ; aujourd'hui j'entends parler de graphs. Ces technologies visent-elles toutes à permettre aux développeurs indépendants de gérer leur attention, ou comme tu l'as dit, à être plus respectueuses de l'attention ? J'aime cette expression.
Tibo : Je diviserais le problème en deux catégories. La première, c'est construire le meilleur AGI personnel, ou agent personnel : il peut être avec toi dans un état de flux, proposer activement de nouvelles idées importantes ; une fois qu'il trouve une opportunité, il agit très efficacement selon ton intention.
Qu'il s'agisse de problèmes techniques, de recherche, de conseils, etc., il peut le faire, et peut s'adapter étroitement à toi. C'est très important, c'est profondément enraciné dans la compréhension de toi en tant qu'humain, en tant qu'individu unique. Nous avançons à plein régime sur ce type de problème.
L'autre type de problème, c'est l'automatisation complète : tu construis davantage des systèmes intelligents pour qu'ils prennent en charge un processus très complexe. Peut-être que ce processus nécessite, ou nécessitait autrefois, de l'intelligence, et semble très complexe.
Par exemple, examiner les logs de production et faire automatiquement de l'optimisation des performances, ou découvrir une régression et la corriger automatiquement. Dans la cybersécurité, nous voyons aussi cette tendance :
Par exemple, lorsqu'un scanner trouve une vulnérabilité, peut-on la corriger automatiquement, réduire la fenêtre d'exposition de cette vulnérabilité à presque zéro, sans que les humains participent à ces boucles fermées, ou avec une participation humaine minimale ; tu n'as qu'à approuver les actions à haut risque, le système reste principalement automatisé. À ce moment-là, tu n'as pas non plus besoin d'exercer un contrôle aussi direct sur lui.
Animateur : Compris.
Fusion de ChatGPT et Codex
Animateur : Alors, je voudrais changer un peu de sujet. Ces derniers mois, ChatGPT et Codex suivent une voie de fusion.
Je veux d'abord demander : comment cela se passe-t-il ? Quel est le ressenti en interne ? Quels retours as-tu reçus des utilisateurs ?
Tibo : Cela apporte vraiment beaucoup d'avantages. Au début, nous avons reçu des retours : "Pourquoi les fusionner ? Est-ce vraiment nécessaire ?" Mais les modèles futurs nous obligent à fusionner.
Donc, nous le ferons, car c'est la manière la plus simple et la plus correcte de construire cet agent extrêmement personnalisé, incroyablement capable, qui peut t'aider de toutes les manières.
Leur technologie sous-jacente sera la même : le même harness, la même réflexion. Il est hautement multimodal, prioritairement vocal, extrêmement efficace ; que tu programmes ou non, cela n'a pas d'importance. Cet agent peut tout faire, et avec une efficacité exceptionnelle.
L'interface que tu souhaites doit s'adapter à tes besoins. Tu ne devrais pas d'abord décider "je suis programmeur, donc je veux une interface de programmeur", ou "je ne suis pas technique, donc je veux une interface non technique".
Les gens sont sur un spectre continu ; des étiquettes comme ingénieur logiciel, designer, etc., ne sont que des concepts humains que nous créons pour faire face à une réalité trop complexe.
Car en fin de compte, chacun se trouve à une position différente sur ce spectre. Nous devons donc construire une interface parfaite qui s'adapte à chacun. Que tu sois technique ou non, elle s'adaptera à ta personnalité spécifique. C'est pourquoi nous faisons cela.
Animateur : Cependant, cela signifie-t-il qu'il finira inévitablement par y avoir une interface unifiée ? Plus de menus déroulants pour choisir différents produits ? Penser que ma mère pourrait utiliser exactement la même interface que moi est vraiment incroyable.
Bien sûr, il s'adaptera à mes besoins. Si je fais un travail plus complexe, je pourrais avoir besoin de plus d'informations. Mais pour toi, quelle est la forme finale ?
Tibo : Oui, c'est la même chose. Toi et ta mère utiliserez la même chose. Ce sera votre AGI personnel respectif. Vous aurez des tâches très différentes, en tirerez des utilités différentes, le connecterez à différents outils dans votre vie, apporterez différentes idées et besoins. Ensuite, il s'adaptera constamment pour vous bénéficier autant que possible. Il servira aussi de la même manière tes amis et tout le monde.
L'avenir de l'interaction homme-machine
Animateur : Je veux revenir à un point que tu as mentionné. Tu as utilisé plusieurs fois le mot "illusion" en décrivant l'état final. Pour l'utilisateur moyen, quelle est cette "illusion" parfaite ? Si tu imagines quelques années plus tard, à quoi ressemblera l'interaction entre l'IA et les humains ?
Tibo : Pour moi, ce sera quelque chose de très adapté à l'humain. C'est aussi pourquoi les grands modèles de langage ont réussi : ils utilisent le langage naturel. Le langage naturel est un concept humain, n'est-ce pas ? Nous sommes habitués à nous parler. Si demain tu m'écris une lettre, je peux la lire. Nous nous connaissons déjà assez bien maintenant. Donc, si tu m'écris une lettre, je peux même en interpréter un peu l'émotion, peut-être quelques nuances subtiles entre les lignes. Tout cela est profondément ancré dans l'humanité.
Par conséquent, la technologie que nous construisons est enracinée dans l'humain, et dans la façon dont les humains communiquent et accomplissent les choses. Elle ne devrait pas te faire dire : "Oh, tu m'as mal compris, parce que tu n'as pas complètement saisi les nuances subtiles de mon ton, ou pas complètement compris ce que je voulais vraiment dire dans le texte."
C'est exactement ce que nous nous efforçons d'éviter. Nous travaillons donc très dur pour ne pas que tu t'adaptes à la technologie, mais pour que la technologie soit conçue juste comme il faut, comme une extension naturelle de la manière dont les humains agissent déjà dans le monde.
Animateur : Je pense à la communication entre humains, dont une grande partie est non verbale. Par exemple, ma façon de gesticuler, les expressions faciales. Dans quelle mesure penses-tu que l'IA percevra ou lira ces informations visuellement à l'avenir ?
Est-ce important ? Parce que ce que tu décris semble n'être que du texte. Et pour nous qui avons grandi avec Internet, nous sommes habitués à communiquer par texte, nous ajoutons aussi des variations subtiles dans le texte pour transmettre le ton que nous voulons vraiment exprimer. Cependant, est-il toujours nécessaire que l'IA puisse lire nos expressions faciales, nos gestes, etc. ?
Tibo : Je pense que oui. Quand je pense à l'avenir que nous construisons, il sera très contextuel et très naturel.
Par exemple demain, ou plus tard, je vais au bureau, j'écris quelque chose sur un tableau blanc, j'ai une idée ; il devrait aussi être présent, comprendre tout cela. Ou je lui dis : "Hé, que penses-tu de ça ?" et nous conversons naturellement par la voix. Depuis que nous avons lancé la nouvelle fonctionnalité vocale de ChatGPT, elle s'est vraiment répandue rapidement. Aujourd'hui, le nombre d'utilisateurs qui interagissent uniquement par la voix avec ChatGPT est en croissance rapide.
Je pense que la leçon ici est : chaque fois que tu t'approches d'une manière plus naturelle, les humains choisissent le chemin de moindre résistance. Comme tu l'as dit, taper dans une petite boîte, c'est peut-être naturel pour certains, mais pas pour tout le monde. Et dès qu'il y a une manière un peu plus facile, un peu meilleure, les gens ont tendance à l'utiliser.
OpenAI et Anthropic
Animateur : Bien. Tout d'abord, félicitations, j'ai vu ton post ce matin disant que Codex a atteint 20 millions d'utilisateurs. J'ai vu le graphique, ça commençait comme ça, puis soudain une montée verticale. Félicitations.
Je veux parler de la concurrence avec Anthropic, car beaucoup pensent qu'OpenAI et Anthropic sont les deux principaux concurrents dans le secteur aujourd'hui. Il y a eu un moment où Anthropic a absorbé toute l'attention, n'est-ce pas ? Ils dominaient vraiment à l'époque, puis les choses ont soudainement changé. Commençons par : comment vois-tu le marché aujourd'hui ?
Tibo : Actuellement, nous nous concentrons vraiment sur la construction des modèles les plus performants, la construction de modèles extrêmement efficaces, et nous sommes fiers de créer des produits pour tous. Je pense qu'OpenAI fait particulièrement bien une chose : se soucier du monde, et se soucier de la façon dont nous pouvons mettre cette technologie incroyablement puissante entre les mains du plus grand nombre. C'est aussi ce que nous faisons en fusionnant Codex et ChatGPT.
Nous souhaitons : puisque nous avons cette technologie, la rendre plus sûre et plus facile à utiliser pour chacun. Que tu sois chef de produit, designer, commercial, marketing, RP, etc., tu devrais pouvoir utiliser toutes ses capacités. Ensuite, nous la distribuons rapidement via ChatGPT, car il y a déjà beaucoup d'utilisateurs là-bas. Cela a également alimenté la croissance rapide que tu as mentionnée.
Je ne me concentre généralement pas trop sur la concurrence ; ce qui m'intéresse vraiment, c'est : que pouvons-nous faire de façon unique et bien faire, quelles sont nos valeurs, et comment avancer le plus rapidement possible dans cette direction.
Animateur : Compris. Je veux approfondir un peu. Je sais que tu ne penses pas beaucoup à Anthropic, mais beaucoup d'autres le font : en quel produit je crois ? Pour quel produit suis-je prêt à payer 2200 dollars ? En termes de positionnement sur le marché, de marque, de ton, et de la manière dont OpenAI interagit avec les développeurs et le grand public, comment penses-tu que cela se compare à l'approche d'Anthropic ?
Tibo : Je veux encore dire que je tiens vraiment à construire une communauté pour le monde, à embarquer tout le monde. Je pense que tu peux le sentir dans notre façon de faire les choses : par exemple, nous sommes très transparents sur beaucoup de choses, et nous puisons aussi beaucoup d'idées dans la communauté. Pour être honnête, c'est aussi très intéressant, car nous en tirons beaucoup d'énergie.
**Et la technologie que nous construisons n'est pas seulement pour nous ; elle n'est pas seulement construite pour accélérer OpenAI. C'est très important. La mission est très importante, donc c'est aussi de là que nous tirons notre énergie. À mon avis, c'est très concret et intéressant ; et ensuite, de bonnes choses se produisent.
Animateur : Parlons donc de ces bonnes choses, je veux parler des réinitialisations...
Pourquoi OpenAI continue à réinitialiser les quotas
Animateur : Je sais, tout le monde semble suivre chacun de tes tweets. Revenons à la courbe de croissance de Codex : cette question est peut-être un peu bête, mais dans quelle mesure ces "réinitialisations" contribuent-elles au marketing et à la croissance, et dans quelle mesure ne sont-elles qu'une bienveillance envers la communauté des développeurs ?
Tibo : Je pense que c'est peut-être un peu contre-intuitif, mais OpenAI est un endroit où les gens peuvent directement faire avancer les choses. Donc au début, lorsque nous itérions, cassions parfois des choses, ou qu'une certaine configuration ne répondait pas aux attentes, offrir une compensation semblait naturel.
Notre réflexion à l'époque était : Merci d'essayer ce produit. Nous savons que nous travaillons très dur pour le rendre bon ; il en est encore à ses débuts. Puisque nous l'avons fait tomber en panne pendant environ 30 minutes, donne-toi plus de quota d'utilisation. Nous comprenons que c'est important, et nous savons que tu en dépends ; merci d'être un utilisateur. C'est là que tout a commencé.
Je le vois toujours ainsi aujourd'hui : si nous le cassons, ou si l'expérience n'est pas idéale et que nous n'avons pas encore complètement compris pourquoi, nous compensons les utilisateurs. Nous réinitialisons les limites d'utilisation. Plus tard, cela a évidemment évolué en quelque chose de plutôt remarqué – maintenant, il y a même un bouton de réinitialisation spécial.
Et il n'y a pas vraiment beaucoup de niveaux d'approbation derrière. Ce n'est pas une décision prise en collaboration avec l'équipe marketing ou financière ; tant que je veux l'appuyer, je peux appuyer sur ce bouton à tout moment. Notre principe est : nous voulons créer quelque chose d'incroyable ; quand cela n'arrive pas, nous compensons.
Animateur : Je pense toujours que cela a vraiment accumulé beaucoup de bonne volonté dans la communauté, et a au moins en partie stimulé la croissance. Se soucier vraiment des utilisateurs est important, non ? Tu peux dire que tu t'en soucies, ou tu peux vraiment t'en soucier : si nous faisons une erreur, désolé ; voici comment nous nous rattrapons.
Cela me rappelle la politique de retour d'Amazon : si tu n'es pas satisfait, retourne-le. Vous semblez établir la même culture, la même perception pour OpenAI : si nous faisons une erreur, utilise ces tokens à nouveau, ou voici un nouveau lot de tokens.
Tibo : Je suis reconnaissant pour ta remarque. Il y a aussi des moments bons à célébrer, à marquer. Nous lançons toujours de nouvelles fonctionnalités et les déployons aussi largement que possible ; mais pour partager quelque chose de significatif avec toute la communauté, il n'y a rien de mieux que ça : explore cette nouvelle fonctionnalité. Par exemple, si tu n'as pas encore utilisé l'Ultra Fast, voici plus de quota, essaie.
Animateur : J'ai entendu dire qu'il y a vraiment un bouton physique maintenant ?
Tibo : Oui, il y en a un.
Animateur : Bien, tu devras me le montrer plus tard.
Tibo : Je te le montrerai, c'est vraiment cool.
Animateur : Mais pour faire autant de réinitialisations, évidemment, seulement si vous avez fait beaucoup de planification de capacité de calcul.
Efficacité de l'IA et puissance de calcul
Animateur : Vous devez avoir suffisamment de puissance de calcul pour supporter toutes ces réinitialisations. Je veux en profiter pour parler d'auto-amélioration : il y a quelques semaines – je pense que c'était il y a quelques semaines – vous avez publié un article disant que Sol avait optimisé l'efficacité de Luna. Vous avez réduit le prix de Luna de 80% ; le prix de Terra a également baissé. Dans la baisse de prix de Luna, combien provient d'améliorations d'efficacité concrètement obtenues ? Et combien est dû au fait que vous avez une bonne planification de capacité de calcul, des marges confortables, donc vous pouvez baisser les prix et permettre à plus de gens d'utiliser ? En d'autres termes, quelle est la part de l'avancée algorithmique et celle de la planification stratégique ?
Tibo : Nous avons commencé à planifier la puissance de calcul très tôt. En regardant il y a deux ans, je pense qu'OpenAI avait été remis en question à l'époque pour avoir investi autant dans la puissance de calcul.
Animateur : C'était un pari fou et excellent.
Tibo : Oui. Maintenant, nous sommes heureux d'avoir cette puissance de calcul. Une grande partie est utilisée pour la recherche, investie dans notre avenir, dans des modèles de plus en plus performants, et dans l'efficacité des modèles existants.
Et une chose incroyable qui se produit est : lorsque nous repoussons les limites des capacités des modèles les plus avancés, nous pouvons utiliser ces modèles pour découvrir très rapidement comment fournir des services, comment restructurer ou ré-ingénieriser toute la pile technologique, obtenant ainsi des gains d'efficacité ou de performances extrêmement significatifs. Nous n'avons pas seulement amélioré l'efficacité des coûts – nous publierons aussi des contenus à ce sujet – mais aussi l'efficacité de la vitesse.
Mis à part l'Ultra Fast, la vitesse globale a augmenté de manière significative. Si tu la mets en graphique, tu verrais que la vitesse est aujourd'hui environ 60% plus rapide qu'il y a trois mois. Nous attaquons une à une chaque partie de la pile technologique, en nous assurant qu'elles sont conçues et implémentées de manière optimale pour notre charge de travail. Et nos modèles les plus puissants sont la clé pour qu'une petite équipe puisse accomplir ce travail.
Ainsi, chaque fois que nous réalisons des gains d'efficacité très significatifs, en particulier sur les coûts, notre engagement est de : maintenir les performances et les coûts à la pointe. Nous ne nous contenterons pas de mettre ce bénéfice dans notre poche, nous le partagerons avec les clients et les utilisateurs ; c'est exactement ce que nous avons fait avec Luna.
Animateur : En interne, lorsque vous devez allouer la puissance de calcul entre la recherche sur de nouveaux modèles, l'amélioration de l'efficacité des modèles existants et l'inférence, comment se déroulent généralement les discussions ? Quelle est cette tension ?
Tibo : Nous partons généralement des principes premiers. Nous allouons une partie de la puissance de calcul à la recherche, une partie aux produits ; au sein des produits, nous faisons différents types d'arbitrages. Mais cette fois-ci, il y a presque pas d'arbitrage, car les gains d'efficacité ont déjà été réalisés. Nous pouvons donc fondamentalement utiliser la même échelle de puissance de calcul pour supporter une croissance très significative du débit.
Auto-amélioration récursive
Animateur : Il y a quelques mois, avant cet article sur la baisse des prix, j'avais vu un blog disant qu'un modèle entraînait le modèle suivant, ou aidait à optimiser le modèle suivant. Ensuite, j'ai vu Sol examiner la façon dont Luna fonctionne et réaliser ces gains d'efficacité. De mon point de vue, cela ressemble à de l'auto-amélioration récursive encore à un stade très précoce. Qu'en penses-tu ? C'est ce qui se passe ?
Tibo : Oui, je pense que l'auto-amélioration récursive est clairement un grand sujet actuel. Les gens l'utilisent le plus souvent pour la recherche, par exemple faire développer d'autres modèles par un modèle.
Mais là où nous voyons beaucoup de réussite, c'est dans l'utilisation de ces modèles pour développer des infrastructures qui soutiennent l'utilisation des modèles et se trouvent sur le chemin critique ; c'est aussi une forme d'auto-amélioration récursive. Ils font partie d'un grand système, comprenant la pile d'inférence, les noyaux plus bas niveau et plus difficiles à optimiser – les noyaux CUDA que nous utilisons ; cela inclut aussi le développement de nouveaux produits plus efficaces et de nouvelles façons d'interagir avec les modèles.
Tu as mentionné les agents cloud. Si nous perçons vraiment les agents cloud, les humains eux-mêmes deviendront immédiatement plus productifs. Est-ce que cela compte comme de l'auto-amélioration récursive ? Parce que tu seras plus capable d'en tirer de l'utilité. Je pense que d'une certaine manière oui, mais cela concerne davantage les infrastructures, et la capacité d'utiliser cette capacité sur soi-même.
Bien sûr, nous le faisons ; je pense qu'il serait imprudent de ne pas le faire.
Pause dans l'entraînement de l'IA de pointe
Animateur : Puisque nous parlons d'auto-amélioration récursive, je voulais demander : je me souviens que Sam Altman d'OpenAI a dit qu'il y avait actuellement une pause dans l'entraînement RL de pointe. Peux-tu en parler ? Comment cette décision a-t-elle été prise ? Je sais que nous en avons brièvement parlé à propos de l'incident Hugging Face, mais qu'est-ce qui a été pris en compte lors de cette décision ? Comment s'est déroulée la discussion ?
Tibo : Cela relève principalement du domaine de la recherche. OpenAI a toujours pu allouer des ressources aux endroits les plus importants. À mesure que les capacités des modèles augmentent, il est évident que l'importance de l'alignement et de la sécurité augmente également. Donc, investir énormément de ressources dans ce domaine est naturel pour OpenAI et fait partie de son engagement ferme.
Nous voyons une augmentation significative des investissements dans ce sens. La pause dans l'entraînement est, dans une certaine mesure, nécessaire : permettre aux équipes et aux individus de vraiment comprendre et renforcer chaque partie du système. Ainsi, lorsque nous reprendrons l'entraînement, nous pourrons redémarrer en ayant un contrôle complet. Je crois qu'OpenAI continuera à le faire à l'avenir, tant que nécessaire. Je n'ai jamais vu qu'en interne, nous ne pouvions pas prendre ce genre de décision efficacement.
Animateur : Y avait-il un objectif clair fixé à l'époque – un certain point à atteindre avant de lever la pause ? Ou bien, vous saurez quand vous le verrez ?
Tibo : Cela relève de l'équipe de sécurité. Pour eux, c'est à la fois une discussion approfondie et un processus exploratoire au fur et à mesure. Mais finalement, ils ont bien développé un ensemble de principes assez clairs : lorsque ces principes sont satisfaits, nous sommes dans une bonne position.
Animateur : Je veux revenir au mode Ultra Fast.
Capacités apportées par l'Ultra Fast
Animateur : Je pense que les gens ne comprennent pas pleinement quelles capacités cette vitesse va débloquer. Commençons par : en interne, quels sont les cas d'usage qui étaient impossibles à réaliser sans cette vitesse de tokens par seconde ?
Tibo : Nous le voyons utilisé massivement dans des scénarios à haut risque. Par exemple, en cas de panne, le commandant de l'incident et l'équipe de réponse obtiennent un accès Ultra Fast, car chaque seconde compte. Donc, dans les scénarios véritablement à haut risque, nous utilisons l'Ultra Fast.
Un autre phénomène assez intéressant : les équipes qui font des choses extrêmement critiques, ou qui croient faire des choses extrêmement critiques, demandent toujours l'Ultra Fast.
Animateur : Les Animaux de compagnie comptent-ils aussi dans ces scénarios ?
Tibo : Les Animaux de compagnie ne sont pas particulièrement critiques. Mais j'aime beaucoup mon Animal, il est toujours sur mon écran. Lorsque tu te déplaces dans le bureau, tu vois les Animaux sur les écrans des gens ; ils apparaissent aussi lors des vidéoconférences. Chaque fois que je les vois, je trouve ça agréable, ça apporte de la joie.
Tibo : Mais actuellement, les Animaux Codex ne sont pas critiques. Nous les entretenons, nous prenons bien soin de nos Animaux. Cependant, si quelqu'un travaille sur une nouvelle idée et dit : "Je pense vraiment que cela pourrait être spécial, il faut absolument essayer ; mais nous devons décider lundi si nous l'incluons dans le DevDay." Alors, bien sûr, l'Ultra Fast peut être utilisé.
Animateur : Les gens ont des préférences différentes quant à aimer travailler en mode mono-tâche ou effectuer beaucoup de multitâche. Pour ceux qui aiment beaucoup le multitâche, les bénéfices de l'Ultra Fast sont moins grands ; mais certaines personnes n'aiment pas changer constamment de contexte. Où te situes-tu sur ce spectre ?
Tibo : J'ai un TDAH, donc je change constamment de contexte.
Animateur : Intéressant, j'ai aussi un TDAH, mais en fait je ne veux pas changer constamment de contexte ; c'est difficile pour moi. Je veux me concentrer sur deux ou trois choses, c'est pourquoi je suis si excité par l'Ultra Fast. C'est intéressant, tu es exactement le contraire sur ce point.
(Note : Le TDAH (Trouble du Déficit de l'Attention avec ou sans Hyperactivité) est une différence neurodéveloppementale liée aux fonctions exécutives du cerveau, se manifestant par des difficultés à maintenir l'attention, à contrôler les impulsions ou à réguler le niveau d'activité, affectant ainsi l'apprentissage, le travail et la vie quotidienne.)
Tibo : Je suis à l'aise avec le changement de contexte et la prise de nombreuses petites décisions. Mais parfois, je veux aussi me concentrer sur une seule chose ; là, l'Ultra Fast est très agréable, car il te permet de rester dans un état de flux.
L'Ultra Fast est excellent lorsque les appels d'outils ne sont pas trop nombreux, ou lorsqu'il faut générer beaucoup de contexte. Par exemple, si tu veux rapidement prototyper un site web ou un jeu vidéo, et qu'il doit écrire beaucoup de code, il le fera très rapidement – environ 10 fois plus vite. Mais s'il y a beaucoup d'appels d'outils, la surcharge est ailleurs dans le réseau, ou à d'autres endroits de la trajectoire d'exécution de l'agent, alors tu ne ressentiras qu'une accélération d'environ 3 ou 4 fois, et non le gain complet de 14 fois.
Animateur : Je sais que les employés d'OpenAI ont des tokens illimités ; je pense que si c'était moi, je mettrais toujours les réglages au maximum, choisirais GPT-5.6 Sol ou le dernier modèle. Lorsque le coût n'est pas une préoccupation, je me dis : OK, pousse au maximum. Je voudrais aussi toujours activer l'Ultra Fast. Est-ce pareil en interne ?
Tibo : Nous ne fournissons pas l'Ultra Fast à tout le monde ; nous réservons une grande partie de la capacité aux utilisateurs et clients externes. Les employés d'OpenAI ont la capacité, la puissance d'absorber toute la puissance de calcul – d'engloutir tous nos GPU de production, toute la capacité Ultra Fast ; ils l'utiliseraient tous.
Mais nous ne faisons pas cela. Nous le limitons d'une certaine manière, en considérant ce qui est raisonnable pour nous. Nous l'utilisons aussi, afin de comprendre le produit, de l'améliorer continuellement, et de bénéficier de l'auto-amélioration récursive ; mais la grande majorité de la capacité reste pour les clients.
Animateur : Bien, c'est bien, merci. En dehors d'OpenAI, quels sont les cas d'usage sensibles à la latence qui t'enthousiasment le plus quant aux capacités que cette vitesse pourrait débloquer ?
Tibo : C'est intéressant. Globalement, une chose qui m'enthousiasme particulièrement, c'est l'interaction non textuelle. Par exemple, pouvoir manipuler sur un canevas partagé ? Pouvoir créer des choses ? Pouvoir générer des idées, générer différentes images, puis en choisir une ?
C'est-à-dire l'expérience du "choisissez votre propre aventure" : obtenir rapidement un prototype maquette manipulable, puis le guider en temps réel par la voix ou le texte, et voir immédiatement le résultat. Je pense que cette vitesse rend ce processus de création possible.
En tant qu'ingénieur, parfois tu t'assois et tu réfléchis : je dois concevoir tout le système, considérer les compromis et les besoins ; mais peut-être peux-tu le faire en une minute, voir comment il se comporte réellement, puis entrer davantage dans un état de flux, mieux comprendre ce qu'il y a dedans. Je pense que cette vitesse peut vraiment changer beaucoup de choses.
Animateur : Alors je suppose que le prix de l'Ultra Fast sera significativement plus élevé que la vitesse normale.
L'Ultra Fast deviendra-t-il le mode par défaut ?
Animateur : Penses-tu que l'Ultra Fast deviendra la vitesse standard, ou y aura-t-il toujours un niveau premium ?
Tibo : C'est une question intéressante. Je pense que, comme le chemin de développement typique de la technologie, il deviendra de plus en plus répandu, de plus en plus accessible avec le temps. La vitesse à laquelle les agents accomplissent les tâches continuera d'augmenter, et nous voyons des améliorations énormes apparaissant mois après mois. Ce n'est pas seulement la vitesse d'inférence, mais aussi l'efficacité avec laquelle les modèles utilisent les tokens.
L'efficacité token de Sol est significativement supérieure à celle de Terra ; comme on peut s'y attendre, l'efficacité token du modèle suivant sera également significativement supérieure à celle de Sol. Nous poussons constamment dans ce sens. Donc tout deviendra plus rapide avec le temps. Le matériel d'inférence aussi – nous innovons constamment, il deviendra plus rapide.
Je pense donc que, peut-être dans un an ou deux, cette vitesse, même si ce n'est pas l'option par défaut, en sera très proche. Mais je pense aussi qu'il y aura toujours un niveau supérieur : tu pourras toujours utiliser plus de matériel, faire des compromis de coût différents, et obtenir des capacités supplémentaires.
Animateur : Tibo, j'ai généralement une dernière question pour un public plus large. Actuellement, beaucoup de gens sont nerveux à propos de l'IA.
Comment apaiser les inquiétudes des gens concernant l'IA
Animateur : Que ce soit l'automatisation des emplois, l'impact environnemental, ou cette chose qui se produit et semble étrange. Quels mots d'encouragement donnerais-tu au grand public ?
Tibo : Oui. Nous construisons des produits pour le monde entier via ChatGPT, et nous accordons beaucoup d'importance à l'amélioration de son efficacité ; cela est directement cohérent avec notre objectif de fournir un accès large et une utilité large. Moins le coût du service est élevé, plus les gens peuvent faire de choses avec, plus la valeur dans la vie quotidienne est grande. Elle est déjà devenue extrêmement efficace.
Prends Luna par exemple : c'est un modèle beaucoup plus petit, mais extrêmement efficace ; mais si tu remontes à il y a six mois, il était à la pointe. Regarde le coût de Luna, c'est incroyablement bas, vraiment excellent.
Animateur : Tu viens de refaire cela : maintenant tu l'offres gratuitement via Replit.
Tibo : Oui, ils le fournissent dans ce mode gratuit. Tu trouves cela incroyable : obtenir une intelligence extraordinaire deviendra omniprésent. Et cela n'est possible que si nous poussons les gains d'efficacité mois après mois, année après année. Donc, je pense que tout ce qui est à la pointe aujourd'hui coûtera beaucoup moins cher à faire fonctionner dans six mois.
C'est ma réponse à cette question : la technologie devient toujours très, très efficace avec le temps. Nous nous concentrons beaucoup sur un accès large et optimisons directement autour de l'utilité que les utilisateurs peuvent en tirer.
Pourquoi chacun devrait essayer l'IA
Animateur : Et pour ceux qui hésitent même à essayer l'IA pour la première fois ? Que leur dirais-tu ? Comment leur décrirais-tu un avenir où l'IA aide le monde ?
Tibo : Je pense que tu n'as pas besoin de regarder loin : ChatGPT aide les gens de manière très personnelle et profonde. Beaucoup d'utilisateurs l'utilisent pour l'assistance à l'écriture, et lui demandent aussi des conseils personnels ou médicaux. Nous avons lancé Santé et Finance, je les utilise moi-même souvent.
J'ai l'impression de recevoir beaucoup de soutien qui serait autrement difficile à obtenir. Par exemple, cela me permet d'avoir plus d'informations lorsque je vais chez le médecin. Donc tu n'as pas besoin d'aller loin pour voir la valeur qu'il peut fournir. Je pense que discuter avec les autres, s'inspirer de la façon dont ils utilisent et bénéficient, est un bon moyen de commencer à réfléchir à comment tu pourrais en bénéficier toi-même.
Animateur : Tibo, merci beaucoup.
Tibo : Merci, et merci pour ton temps.
One more thing
Tout juste, Tibo a annoncé qu'OpenAI rétablira demain la limite d'utilisation de 5 heures pour ChatGPT Plus.
Il a déclaré que cette fonctionnalité devait être lancée, mais a été retardée pour certaines raisons. Donc à partir de demain, les utilisateurs Plus ne pourront plus en profiter sans restriction.
Bien sûr, les utilisateurs Pro n'ont pas à s'inquiéter pour le moment, les forfaits à 100 et 200 dollars n'activeront pas cette limite dans les prochains mois.
Cet article provient du compte WeChat public "量子位" (Quanzi Wei), auteur : henry
