La startup de Jeff Dean, Discovery Loop, a dévoilé ce qui pourrait être le plan d'affaires (BP) le plus prestigieux de l'histoire.
Trois de ses pages se présentent comme suit :
Première page, ce que nous avons construit ensemble ;
Deuxième page, la taille des équipes que nous avons dirigées ;
Troisième page, l'impact technologique que nous avons eu.
Et une autre page : nous avons quelques photos personnelles...
C'est tout, aussi simple que cela.
Le Jeff de Google se dit probablement : Le financement, c'est dans la poche, non ?
Les VC de la Silicon Valley font déjà la queue pour envoyer de l'argent.
Le fondateur de l'une des principales sociétés de co-leadership a directement déclaré :
Nous avons été « choisis » pour investir dans la nouvelle entreprise de Jeff, c'est vraiment un honneur !!
Les internautes sont en ébullition après avoir vu ça : Avec Jeff, ce n'est pas certain que ce soit lui qui doive convaincre les investisseurs.
Jeff, oh Jeff, trois diapositives PowerPoint, c'est encore trop.
« Ton BP n'a besoin que d'une page : Googlez-moi ».
À quoi ressemble le BP le plus prestigieux de l'histoire de l'IA ?
Un BP normal répond généralement à : quel problème résout-on, quel est le produit, quelle est la taille du marché, comment compte-t-on gagner de l'argent...
Et, pourquoi vous ?.
Jeff est bien Jeff... Il répond directement par la dernière question.
Mais c'est Jeff Dean !
Il faut savoir que ce mot, dans les temps anciens, signifiait "vibe coding" (doge).
Il aurait pu simplement dire « Moi, Jeff Dean, donnez-moi de l'argent », mais le grand chef a encore pris la peine de faire un PowerPoint si simple et honnête.
Première page : Ce que nous avons construit ensemble.
Elle liste les noms des 4 fondateurs et leurs réalisations, principalement divisées en 4 catégories :
Produits : Google Search, Ads, Gmail, Translate, Gemini, Cloud TPU ;
Infrastructure : GFS, MapReduce, Bigtable, Spanner, TensorFlow, Pathways ;
Recherche en IA : Word2Vec, Seq2Seq, MoE, Distillation de modèles, PaLM, Flamingo, Chinchilla ;
Applications d'IA : AlphaChip, AlphaStar, AlphaFold, Prévisions météo, et les différentes générations de modèles Gemini.
... Qu'est-ce que c'est que ça ? On a carrément copié-collé tout le catalogue de produits Google.
Comme le disent les internautes pour plaisanter :
Le meilleur produit que j'ai fait chez Google : Google.
△ Source : commentaire d'un internaute sur Xiaohongshu @Kevinqyh
Deuxième page : La taille des équipes que nous avons dirigées et les entrepreneurs en IA que nous avons formés.
Jeff Dean a cofondé et dirigé Google Brain, l'équipe a atteint environ 600 personnes ; les équipes Google Research et IA qu'il géait ont atteint un pic d'environ 4400 personnes.
Oriol Vinyals a dirigé une équipe d'environ 250 personnes et a créé l'équipe de pré-entraînement de Gemini.
Quoc Le a dirigé une équipe d'environ 60 personnes.
Tous trois ont été responsables techniques conjoints de Gemini, travaillant sur le pré-entraînement et le post-entraînement.
Et la liste qui suit est encore plus impressionnante... Elle couvre essentiellement la moitié de l'écosystème de l'IA actuel.
Dario Amodei, Ilya Sutskever, Noam Shazeer... Ces grands noms bien connus ne sont qu'un début, il y a aussi les fondateurs de labos d'IA renommés comme Physical Intelligence, Thinking Machines, Sakana AI, etc.
Parmi les Chinois connus, on trouve Yang Zhilin.
Pendant son doctorat à Carnegie Mellon, il a rejoint Google Brain, collaborant avec l'équipe de Quoc Le sur l'architecture des modèles de langage et les méthodes de pré-entraînement.
Durant cette période, avec Dai Zihang et d'autres, il a co-proposé Transformer-XL et XLNet.
Le premier tentait de dépasser la fenêtre de texte fixe du Transformer classique, permettant au modèle de conserver des informations sur de plus longues distances à travers différents paragraphes ; le second explorait une autre voie de pré-entraînement que BERT et surpassait BERT sur 20 tâches de traitement du langage naturel à la publication de l'article.
La suite, tout le monde la connaît.
Yang Zhilin a fondé Moonshot AI et créé Kimi . Kimi a d'abord été remarqué par les utilisateurs pour sa capacité à traiter de longs textes.
Les technologies Mooncake, MoBA, Kimi Linear révélées plus tard par Moonshot AI utilisaient déjà différentes méthodes pour résoudre respectivement les coûts de raisonnement, le calcul d'attention et la pression de mise en cache liés aux longs contextes.
Dai Zihang, le vieux partenaire de Yang Zhilin, a ensuite rejoint l'équipe fondatrice de xAI.
Pendant son doctorat à Carnegie Mellon, il a collaboré avec l'équipe de Quoc Le chez Google Brain, co-réalisant Transformer-XL et XLNet avec Yang Zhilin. Dans les deux articles, les deux sont indiqués comme co-premiers auteurs.
Après son doctorat, Dai Zihang a rejoint Google Brain en tant que chercheur scientifique, continuant ses travaux sur les modèles de langage et les Transformers efficients.
Par exemple, il a participé à la proposition de FLASH, qui, grâce à une nouvelle structure d'attention efficace, permet au modèle de traiter des séquences plus longues de manière quasi linéaire tout en maintenant ses performances. L'article rapporte une accélération de l'entraînement allant jusqu'à environ 12x sur différentes tâches de modélisation du langage.
De plus, son nom apparaît également dans la liste des auteurs du premier rapport technique de Gemini.
Dans le PPT de Jeff, il y a aussi un autre ancien de l'Université du Zhejiang, Zhang Guodong.
Il a effectué des stages chez Google Brain et DeepMind. Ses recherches représentatives incluent l'analyse des choix d'algorithmes d'entraînement vraiment importants sous différentes tailles de lot ; il a également étudié l'optimisation minimax, l'optimisation multi-agents, et comment permettre aux modèles de fournir des réponses vérifiables via un mécanisme Prover-Verifier.
Il est également co-auteur de l'article sur les Deformable Convolutional Networks. Ce travail est ensuite devenu un module de base important en vision par ordinateur.
En 2023, Zhang Guodong a intégré l'équipe fondatrice initialement dévoilée de xAI.
Revenons au PPT de Jeff.
Troisième page : L'impact académique de nos recherches en IA et systèmes distribués.
À gauche, une capture d'écran de Google Scholar, montrant les « Chercheurs en IA hautement cités ».
Quoc Le, Oriol Vinyals et Jeff Dean sont tous encadrés en rouge.
Sur la même page, on voit également des chercheurs très influents comme Yoshua Bengio, Geoffrey Hinton, Ilya Sutskever, Ian Goodfellow, ainsi que le chercheur chinois en IA Ren Shaoqing.
Ren Shaoqing est un auteur clé de recherches classiques en vision par ordinateur comme Faster R-CNN, et s'est ensuite orienté vers la conduite autonome et la recherche en IA.
À droite, ce sont les « Chercheurs en systèmes distribués hautement cités ».
Il s'agit principalement de la page Google Scholar des chercheurs les plus cités sous les tags de recherche pertinents, le nombre de citations évoluant continuellement.
Jeff Dean et Sanjay Ghemawat sont à nouveau encadrés en rouge. Jeff Dean a un total de plus de 420 000 citations sur Google Scholar, Sanjay Ghemawat en a plus de 170 000.
Cela montre également la configuration de l'équipe fondatrice de Discovery Loop :
Quoc Le et Oriol Vinyals sont plus proches de la recherche en apprentissage automatique et en modèles de pointe, tandis que Jeff Dean et Sanjay Ghemawat ont une expérience extrêmement solide en construction de systèmes à grande échelle.
De plus, Jeff a également montré dans son PPT de présentation diverses photos d'eux en train de manger, boire et s'amuser...
Le grand cercle jaune en haut à gauche est Jeff Dean lui-même, à côté de lui, les lunettes et les cheveux gris, c'est Sanjay Ghemawat ; le petit cercle jaune au milieu de la table, avec des lunettes, est Oriol Vinyals.
Les autres photos montrent divers moments de leur vie : regarder un match de foot à Londres, dîner en Patagonie, prendre une moto au Vietnam, se taper dans la main en Californie.
Une phrase est écrite tout en bas : « Nous avons travaillé et joué ensemble à Londres, en Patagonie, au Vietnam et en Californie. »
Montrer ça dans un BP, il faut avouer que vous avez vraiment une vie, Jeff, c'est peut-être le PPT de présentation le plus décontracté de l'histoire.
Cela montre aussi que ces fondateurs travaillent ensemble depuis des décennies, ils se sont suffisamment rodés. Pour une startup, c'est un gros plus, car il y a aussi pas mal de gens talentueux mais qui se déchirent en interne.
(Comme le Thinking Machines Lab à côté)
Alors, que comptent-ils faire exactement ?
Discovery Loop résume sa mission ainsi :
Automatiser l'apprentissage automatique, la science et l'ingénierie, accélérer les découvertes et le progrès.
Son idée de base est la « boucle d'expérimentation automatisée ».
Aujourd'hui, faire de la recherche implique généralement de répéter un cycle : formuler une hypothèse, concevoir une expérience, l'exécuter, analyser les résultats, modifier l'approche, puis lancer le tour suivant.
Discovery Loop veut intégrer l'IA dans cette chaîne, en exécutant simultanément un grand nombre d'expériences et en ajustant automatiquement la stratégie du tour suivant en fonction des résultats.
Initialement, l'entreprise se concentrera sur la recherche et l'ingénierie en apprentissage automatique, domaine que les quatre fondateurs connaissent le mieux, et pourrait à l'avenir étendre cette méthode au matériel informatique, à la découverte de médicaments et à d'autres problèmes scientifiques et techniques.
Plusieurs VC ont déjà obtenu leur billet
Avec une équipe aussi prestigieuse, c'est clairement Jeff qui choisit les VC, et non l'inverse.
Actuellement, quelques VC ont effectivement obtenu leur billet. Les investisseurs confirmés incluent Khosla Ventures, Radical Ventures, Lightspeed Venture Partners, Kleiner Perkins et Doerr Capital.
Parmi eux, Khosla Ventures et Radical Ventures sont co-leaders du tour de table.
Ce sont presque tous des acteurs historiques du capital-risque de la Silicon Valley.
Khosla Ventures parie depuis longtemps sur des projets à haut risque et à forte composante technologique, ayant investi dans OpenAI en 2018 ; Radical Ventures est un fonds de capital-risque canadien spécialisé dans l'IA, dont le portefeuille comprend Cohere, Waabi et World Labs.
De plus, l'ancien employeur de Jeff Dean, Alphabet, a également participé à l'investissement et a signé un accord de coopération à long terme pour le cloud computing avec Discovery Loop.
Le montant exact du financement n'a pas été officiellement annoncé. Axios, citant des sources informées, indique que ce tour de financement atteint « plusieurs centaines de millions de dollars », mais cela n'a pas été confirmé officiellement par Discovery Loop ou les institutions d'investissement.
Il est intéressant de noter que certains VC ayant obtenu leur billet se sont également manifestés pour annoncer la nouvelle avec enthousiasme.
Par exemple, le fondateur de Khosla Ventures, Vinod Khosla, a spécifiquement posté sur X pour annoncer :
Être choisi pour co-leader l'investissement dans Discovery Loop est vraiment un honneur !
Il a également comparé ce pari à son investissement dans OpenAI en 2018, estimant que Discovery Loop pourrait avoir un impact du même ordre.
Un investisseur de l'autre co-leader, Radical Ventures, a également posté sur les réseaux sociaux chinois pour annoncer la nouvelle.
Source : investisseur de Radical Ventures sur Xiaohongshu @Jules Qiu
L'influence de Jeff Dean est donc immense.
Les VC sont comme :
« Jeff, voici le chèque, vous... vous remplissez le montant que vous voulez. »
One More Thing
Soit dit en passant, Jeff a quitté Google, mais les employés de Google ne sont pas très tristes.
Leur première réaction a été :
« Google n'a pas perdu Jeff, il l'a enfin open-sourcé pour toute l'humanité ! »
« Jeff Dean quitte Google pour que le développement du machine learning puisse enfin le rattraper ! »
Très bien, comment ne pas considérer cela comme une grande contribution de Google au domaine de l'open source ?
(Et si Gemini 4 était directement publié, ce serait encore mieux)
La nouvelle entreprise de Jeff : https://www.discoveryloop.com/
Références :
[1]https://x.com/JeffDean/status/2085036253263921218
[2]https://x.com/JeffDean/status/2085034604172603724
[3]https://x.com/vkhosla/status/2085034150361453032
Cet article provient du compte public WeChat « Quantum Bit », auteur : Ting Yu
