Le CEO de mille milliards de la Silicon Valley, serait-il un « prophète de l'apocalypse à deux visages » ?!
Ces derniers jours, un long article choc de The Information a pratiquement mis à nu Dario Amodei.
Pendant 42 jours, le journaliste Cory Weinberg a rencontré ses subordonnés, concurrents et investisseurs, pour finalement reconstituer un portrait « à deux faces » extrêmement contrasté——
Un côté répète sans cesse que l'IA pourrait anéantir l'humanité, tandis que l'autre appuie lui-même sur l'accélérateur, misant sur l'arrivée accélérée de la « singularité ».
Il craint l'IA, mais y mise gros. Dario Amodei, quel est son vrai visage ?
Face A : L'IA pourrait anéantir l'humanité
Plus tôt cette année, le climat médiatique autour de l'IA tombait au point le plus bas, l'hostilité et la peur du public envers cette technologie atteignant un sommet.
Lors d'une réunion interne cruciale chez Anthropic, un administrateur participant a suggéré :
Anthropic devrait utiliser son influence considérable dans le secteur pour lancer, comme l'avaient fait Microsoft, Meta ou même Google en leur temps, une « offensive de séduction » (Charm Offensive) en matière de relations publiques.
Par exemple, en mettant l'accent sur le potentiel énorme de l'IA pour trouver de nouveaux médicaments anticancéreux, vaincre des maladies rares, et ainsi bénéficier à l'humanité.
A peine ces mots prononcés, Dario, assis à l'une des extrémités de la longue table, n'a pas hésité une seconde et a rejeté cette proposition sur-le-champ——
Les gens le faisaient certes autrefois, mais cette fois, nous faisons face à une « crise existentielle » bien réelle.
L'évolution n'a pas seulement été sans compromis, elle est allée vers l'extrême opposé.
Pendant la Coupe du Monde, événement mondialement suivi, la publicité d'Anthropic a soudainement fait apparaître une série d'images sombres et oppressantes : une rangée de pierres tombales froides et sombres apparaissant au centre de l'écran.
Anthropic suggérait que l'IA pourrait tuer tout le monde !
Il craint l'IA, et ce depuis dix ans
Au cours de la dernière décennie, Dario Amodei a toujours maintenu une concentration extrême sur la sécurité.
Dès 2017, alors que le monde entier était encore plongé dans l'internet mobile, Dario Amodei avertissait déjà des risques sécuritaires que pourrait poser l'AGI.
En 2018, alors que tout le monde applaudissait les capacités des premiers modèles prometteurs d'OpenAI, Dario faisait déjà preuve d'une vigilance presque névrotique.
À l'époque, il a fait passer, contre l'avis de beaucoup, une règle de fer totalement hors-norme :
Toute recherche fondamentale d'OpenAI devait être soumise à une évaluation rigoureuse de « risque d'information » avant publication, pour empêcher la fuite de détails techniques vers les concurrents.
Cette prudence quasi-excessive a, à un moment donné, donné une sensation d'étouffement aux collègues d'OpenAI.
En 2019, Microsoft s'apprêtait à injecter un milliard de dollars d'« argent de survie » à OpenAI, alors en manque de fonds.
Pourtant, l'équipe de sécurité d'Amodei a forcé l'arrêt, pendant plusieurs mois, de ces négociations de financement cruciales pour la survie de l'entreprise.
La raison invoquée : la crainte que GPT-3, encore en phase d'entraînement, n'évolue en une AGI incontrôlable.
Des collègues de l'époque se moquaient même en privé, disant que le département de Dario Amodei ressemblait à « une caste sacerdotale arrogante, se croyant détentrice de la vérité ».
Ordinateurs déconnectés d'internet, courrier physique
Plus intéressant encore, par souci de confidentialité, Dario Amodei refuse tout accès internet externe.
Dans son appartement de San Francisco, il refuse d'utiliser tout ordinateur connecté au web extérieur.
Toutes les notes internes cruciales sont rédigées sur un ordinateur complètement « isolé physiquement » (Air-gapped).
Une fois écrites, pas de téléchargement sur le cloud, pas d'envoi par email, il les imprime directement sur papier, puis les « apporte physiquement » au bureau pour les distribuer à son équipe.
Cette mentalité de « bunker » quasi-paranoïaque a atteint son apogée en 2020.
Finalement, en raison d'un désaccord sur la vision, il est parti d'OpenAI avec son équipe pour fonder Anthropic.
Aux yeux de l'équipe fondatrice, Sam Altman, en poursuivant une commercialisation frénétique, emmène l'humanité droit vers le précipice.
Ce traumatisme s'est solidifié chez Anthropic en une cohésion unique, les employés qualifiant même en privé cette extrême méfiance envers leur ancien employeur de « syndrome de confusion mentale d'Altman » (Sama Derangement Syndrome).
Aujourd'hui, cette mentalité de siège permanent qui règne au sein d'Anthropic déroute les observateurs extérieurs.
Face B : Il a la « singularité » en tête
Les investisseurs d'Anthropic ont en privé un jugement qui fait presque consensus : « Il ressemble plus à un leader religieux qu'à un CEO. »
Dario s'implique très peu dans la gestion quotidienne. Salaires, structure organisationnelle, ajustements de personnel, presque tout est confié à sa sœur Daniela.
Quant à lui, il fixe son regard comme un phare, balayant chaque recoin de l'entreprise.
La dernière fois, le phare s'est posé sur l'équipe d'économistes internes. Ils utilisaient des modèles mathématiques rudimentaires pour évaluer l'impact potentiel de la « singularité » :
Une singularité lente pourrait ne contribuer qu'à hauteur de 0,5 point de pourcentage à la croissance économique américaine, avec un marché de l'emploi stable ; une singularité rapide pourrait contribuer à hauteur de 4 points de pourcentage, tout en augmentant significativement le chômage.
Après avoir écouté, Dario a simplement dit : C'est à peu près ce que j'avais en tête.
Les employés parlent de Dario Amodei comme d'un mystique. « Il peut prédire l'avenir », dit l'un. « Il a la singularité en tête », dit un autre.
Ses réunions générales bi-mensuelles sont appelées le « voyage visionnaire de Dario Amodei ». Lors de ces réunions, il ouvre un document exhaustif et donne son point de vue franc sur l'IA, la politique, la guerre et la société.
Sur Slack, il est direct, discute d'égal à égal, accessible, ce qui inspire une loyauté presque religieuse.
Ce style de leadership est presque une anomalie dans la Silicon Valley. La plupart des CEO sont formatés pour être des « machines à croissance », tandis que Dario ressemble plus à un « dieu » qui incarne lui-même les principes de sécurité.
Ce style de leadership unique a construit chez Anthropic une culture organisationnelle semblable à celle d'un « temple ».
Les employés talentueux viennent y travailler, non seulement pour un salaire à six chiffres, mais pour vivre une foi commune, celle de « sauver l'humanité », dans un monde perçu comme corrompu par le capital.
Les entreprises commerciales motivent leurs employés avec des KPI, le temple, lui, utilise la foi.
47 milliards de dollars de revenus annuels
Les investisseurs craignent qu'il n'aime pas l'argent
Sur le chemin de la singularité, Anthropic a réalisé un miracle commercial proche du mythe——
Fondée il y a seulement 5 ans, avec un peu plus de 3000 employés, elle est aujourd'hui valorisée à 965 milliards de dollars.
Si l'on prend la valorisation d'environ 4,1 milliards de dollars de mai 2023, en seulement trois ans, la valorisation a été multipliée par environ 235.
Ce chiffre dépasse déjà celui du géant des bases de données Oracle, qui règne depuis près d'un demi-siècle.
Voici une comparaison frappante : Fin mai 2026, Oracle comptait environ 141 000 employés ; Anthropic, seulement 2-3% de ce nombre.
Anthropic aujourd'hui affiche le taux de croissance des revenus le plus rapide de l'histoire.
Mais, de manière étrange, les investisseurs de premier plan qui s'apprêtent à réaliser des profits énormes lors de la prochaine IPO, n'ont pas l'air joyeux, ils tremblent plutôt de peur.
« Ce que je crains le plus, c'est qu'il ne se soucie tout simplement pas de l'argent ».
C'est ce qu'a écrit dans ses notes un investisseur chevronné de la Silicon Valley qui avait étudié Anthropic à ses débuts.
Un autre gestionnaire de fonds d'investissement public, prêt à investir lourdement lors de l'IPO, a soupiré presque en suppliant après une rencontre : « Je vous en prie, peut-il arrêter de nous faire peur ? »
Il ne faut pas oublier que ceux qui sont assis en face de Dario sont des « mastodontes du capital » habitués à tout mesurer en termes de taux de croissance, de profits et de valorisation, et qui manient des centaines de milliards.
Or, ce que Dario aime le plus discuter avec eux, ce n'est pas le plan commercial d'Anthropic, mais « la probabilité que l'IA détruise l'humanité ».
Accélérer tout en cherchant le frein : Un pari risqué pour le destin de l'humanité
Pour empêcher l'IA de détruire le monde, il faut s'engager soi-même à créer l'IA la plus puissante——
C'est le paradoxe le plus glaçant chez Dario.
Puisque le train vers la « singularité » ne peut plus être arrêté, il préfère garder fermement le volant entre les mains d'un « croyant de l'apocalypse » comme lui, plutôt que de le confier à un « fou » lancé à toute vitesse.
Ainsi, nous assistons à la scène la plus contradictoire de l'histoire de la technologie : il tente de piloter une machine à imprimer de l'argent qui tourne à plein régime, en utilisant les méthodes de construction d'un temple.
Mais l'objectif ultime du capital est une croissance infinie.
Lorsque la frénésie d'une valorisation de mille milliards de dollars et l'ASI surviendront simultanément, ce « prophète de l'apocalypse » pourra-t-il encore retenir le monstre qu'il a lui-même nourri ?
Les fidèles parient, le capital aussi.
Et nous tous, nous avons été entraînés à cette table de jeu sans retour possible.
Références :
https://www.theinformation.com/articles/dario-amodei-spread-anthropics-religion-stirred-silicon-valley
https://www.iheart.com/podcast/1119-listen-to-the-story-84532929/episode/can-anthropic-win-the-ai-race-276045535/
Cet article provient du compte officiel WeChat « 新智元 », auteur : ASI启示录, éditeurs : David Pêche
