Selon les prévisions de Polymarket, Anthropic pourrait réaliser son introduction en bourse d'ici fin octobre.
Certains professionnels de la banque d'investissement estiment même qu'Anthropic pourrait lever plus de 600 milliards de dollars via son IPO.
Si cela se concrétise, il s'agirait de la deuxième plus grande introduction en bourse au monde, juste derrière SpaceX qui a levé 857 milliards de dollars cette année.
Valorisation à mille milliards, super IPO, chiffre d'affaires en pleine explosion.
Alors que l'histoire semble atteindre son apogée, les investisseurs commencent à conseiller au PDG d'Anthropic, Dario Amodei :
Peux-tu ! Arrêter un peu de faire peur aux gens !
Parle un peu moins de l'IA qui détruit le monde, et un peu plus de l'IA qui génère de l'argent.
Certains investisseurs estiment que la méfiance de Dario face aux risques de l'IA a atteint un niveau presque obsessionnel :
Ses notes clés sont toujours manuscrites et conservées hors ligne, de peur d'être piratées ;
Il refuse certains déplacements à l'étranger par crainte d'être kidnappé ;
Face aux suggestions des investisseurs visant à maximiser les profits, il reste également distant, insistant sur le fait qu'Anthropic doit continuer à placer sa mission de sécurité au premier plan.
Si cela continue, même les internautes craignent que l'IPO d'Anthropic ne soit un échec cuisant...
Les investisseurs s'énervent : Tu es là pour sauver le monde ou pour diriger une entreprise ??
Dario, chargé spécialement de prédire l'apocalypse
Il y a quelques jours à peine, Dario s'inquiétait encore que les nouveaux employés attirés par des rémunérations élevées soient plus intéressés par l'argent que par la mission d'Anthropic.
Maintenant, les investisseurs ne s'inquiètent que de le voir compromettre les profits pour cette mission...
On ne peut pas en vouloir aux investisseurs, car le PDG de ce géant de l'IA valorisé mille milliards, a justement pour habitude de prédire la « fin du monde ».
Ces deux dernières années, Dario a presque sérieusement alerté sur chaque mauvais scénario possible que l'IA pourrait engendrer.
Il a averti que l'IA pourrait éliminer la moitié des emplois de cols blancs juniors en quelques années, portant le taux de chômage entre 10% et 20%.
Le scénario le plus étrange pourrait être que le cancer soit guéri, l'économie croisse de 10% par an, les budgets gouvernementaux soient équilibrés, mais qu'un cinquième de la population soit sans emploi.
La solution qu'il propose est également très « Dario » : taxer les entreprises d'IA, fournir une assurance salariale aux travailleurs affectés, et dans les cas graves, utiliser cet argent pour financer même un revenu universel de base.
Plus loin, il s'inquiète également que l'IA aide à fabriquer des armes biologiques, à lancer des cyberattaques à grande échelle, ou acquière progressivement des capacités de tromperie, de planification et d'action autonome.
L'année dernière, interrogé sur la probabilité que « l'IA rende les choses vraiment mauvaises », il a donné un chiffre allant jusqu'à 25%.
En janvier de cette année, il a de nouveau écrit un long article d'environ 20 000 mots intitulé « L'Adolescence de la Technologie ».
Rien que le sommaire ressemble déjà à une liste des risques pour l'humanité : IA incontrôlable, armes biologiques, régimes dictatoriaux, effondrement de l'emploi, concentration des richesses.
En juin, il a même proposé de mettre en place un mécanisme similaire à la régulation aérienne, avec des tests obligatoires pour les modèles puissants. Si un modèle risque de provoquer une catastrophe, les régulateurs devraient avoir le pouvoir de l'empêcher d'être déployé.
Cela inclut également les modèles d'Anthropic lui-même.
Cependant, les inquiétudes de Dario ne sont pas non plus totalement dépourvues de fondements expérimentaux.
Il y a quelque temps, Anthropic a examiné plus de 140 000 enregistrements de tests de sécurité informatique et a effectivement découvert trois incidents.
Trois modèles Claude effectuaient des « défis de capture de drapeau » dans un environnement de test tiers, avec pour objectif de pénétrer un système fictif et d'y trouver des informations secrètes.
Mais en raison d'une erreur de configuration, l'environnement de test censé être déconnecté d'Internet s'est accidentellement connecté au vrai réseau.
Sauf que Claude ne le savait pas, l'instruction qu'il a reçue indiquait clairement : il n'y a pas d'Internet ici, tout ce que tu vois est simulé.
Ainsi, plusieurs modèles ont pris de vraies entreprises pour des outils de test et ont accédé sans autorisation aux systèmes de production de trois organisations.
Le plus grave d'entre eux, Claude Opus 4.7, a pénétré l'infrastructure d'une entreprise réelle, obtenu des identifiants d'application et d'infrastructure, et a accédé à une base de données contenant des centaines de lignes de données de production.
Un autre incident encore plus étrange est venu de Claude Mythos 5.
Le test lui demandait de chercher une cible cachée dans un environnement fictif. Claude a découvert que s'il téléchargeait un package malveillant du même nom sur le dépôt public de logiciels Python PyPI, il pourrait amener le système cible à le télécharger et l'installer automatiquement.
Pour accomplir cette étape, il a d'abord cherché une adresse e-mail, puis un numéro de téléphone ; ne trouvant pas de numéro gratuit, il a même essayé d'obtenir de l'argent par différentes voies.
Finalement, il a changé de service de messagerie gratuit, créé un compte PyPI et y a téléchargé le package malveillant.
Ce package a survécu environ une heure sur le vrai Internet, téléchargé et exécuté par 15 systèmes réels.
Le scanneur d'une entreprise de sécurité a exécuté le code malveillant, entraînant la fuite d'identifiants, que Claude a ensuite utilisés pour accéder à d'autres infrastructures de cette entreprise.
Un autre modèle interne de recherche, ne trouvant pas la cible fictive, a scanné environ 9000 cibles Internet, et a finalement réussi à pénétrer l'application d'une entreprise réelle via une page de débogage exposée et une injection SQL.
Cela frôle « l'évasion autonome de l'IA », ressemblant presque à un avant-goût réel des prédictions apocalyptiques de son propre PDG.
Plus tôt, OpenAI avait également révélé un incident plus proche d'une « évasion ».
Lors d'un test de capacités de cybersécurité, un agent IA piloté par GPT-5.6 Sol et un modèle non publié a trouvé une vulnérabilité zero-day dans l'environnement de test, contournant le sandbox initialement isolé d'Internet.
Il a ensuite réussi l'élévation de privilèges et le mouvement latéral, pour finalement pénétrer le système de production de Hugging Face et voler directement les réponses aux tests depuis la base de données.
À voir cela... on ne peut pas entièrement ignorer les avertissements de Dario, qui pouvaient sembler délirants.
Mais les investisseurs n'ont-ils pas acheté cette histoire dès le début ?
Il est un peu tard pour trouver Dario délirant maintenant.
Car Anthropic n'a jamais été, dès le premier jour, une entreprise d'IA au sens conventionnel du terme.
Fin 2020, Dario, sa sœur Daniela Amodei et un groupe de chercheurs quittent OpenAI. L'une des divergences était leur conviction qu'OpenAI se commercialisait trop vite, l'influence de Microsoft grandissait, et la structure de gouvernance originale aurait du mal à contenir les risques de l'IA de pointe.
En 2021, Anthropic est officiellement créée.
Elle ne s'est même pas simplement définie comme une entreprise commerciale, mais s'est enregistrée en tant que Public Benefit Corporation, c'est-à-dire une société à but d'intérêt public. Outre le retour sur investissement des actionnaires, le conseil d'administration peut légalement prendre en compte la sécurité de l'IA et l'intérêt public à long terme.
La société a ensuite créé le Long-Term Benefit Trust, un mécanisme de gouvernance indépendant des investisseurs ordinaires.
Les membres du Trust ne détiennent pas d'actions d'Anthropic, mais peuvent participer à l'élection des administrateurs de la société, dans le but d'éviter que les pressions commerciales à court terme n'écrasent totalement la mission de sécurité.
Autrement dit, la sécurité de l'IA est une croyance gravée dans l'ADN de cette entreprise depuis le Jour 0. Les investisseurs n'ont certainement pas découvert soudainement que Dario y croyait après avoir signé les chèques.
De plus, ces dernières années, le récit de la sécurité a effectivement apporté de nombreux avantages à Anthropic.
Lorsqu'OpenAI s'enfonçait dans des controverses de gouvernance, Anthropic est apparu comme le choix plus mesuré, plus stable.
Lorsque les clients entreprises s'inquiètent de la sécurité des données, du contrôle des modèles et des questions de conformité, l'image de « bon élève en sécurité » de Claude a également plus facilement gagné leur confiance.
La sécurité a également aidé Anthropic à obtenir une influence dans les discussions réglementaires bien supérieure à la taille de l'entreprise.
Pour des modèles fermés, d'autres pourraient être accusés de monopoliser, Anthropic peut expliquer qu'il s'agit d'empêcher la diffusion de capacités dangereuses ; pour les restrictions ajoutées aux modèles, d'autres pourraient être critiqués pour leur difficulté d'utilisation, Claude peut le présenter comme une responsabilité.
(Bien sûr, cela ne les empêche pas de parler sécurité d'un côté et d'ouvrir le champagne pour l'IPO de l'autre)
Les investisseurs trouvent maintenant Dario trop semblable à un prédicateur, n'est-ce pas un peu tard ?
C'est un peu comme acheter une église et ensuite se plaindre que les gens à l'intérieur prêchent tout le temps...
De toute façon, quoi que le PDG puisse divaguer, cela n'empêchera probablement pas l'entreprise d'aller vers son IPO.
Après tout, il suffit d'utiliser Fable pour s'effondrer sur une bombe atomique et voir la chaise exploser (doge).
Lien de référence : [1]https://x.com/i/trending/2086082178333511741
Cet article provient du compte officiel WeChat "Quantum Bit", auteur : Tingyu
