La singularité de l'IA est proche !
Récemment, l'investisseur renommé « Warren Buffett de la Silicon Valley », Chamath Palihapitiya, a prédit sur X la feuille de route ultime concernant la « singularité de l'IA ».
1. L'humanité construit une AGI.
2. L'AGI devient très compétente dans la recherche sur l'IA.
3. Elle conçoit une IA plus intelligente.
4. Cette IA plus intelligente en conçoit une encore plus intelligente.
5. Ce cycle se répète, de plus en plus vite.
Ensuite, il a lancé une conclusion choquante —
Regardez les résultats et capacités annoncés par les grands laboratoires d'IA ces dernières semaines, j'ose dire que nous sommes déjà dans ce cycle.
Au cours des 18 prochains mois, l'ARSI augmentera rapidement les capacités de l'IA.
Finalement, le coût marginal de tous les modèles d'IA tendra vers 0 !
Ce n'est pas seulement les investisseurs, toute la Silicon Valley croit désormais fermement à l'ARSI.
Très récemment, lors d'un sommet à UC Berkeley, Jasjeet Sekhon, directeur de la stratégie chez Google DeepMind, a avancé un jugement encore plus marquant :
Les investissements fous et sans précédent de tout le cercle des géants technologiques, dans leur essence, misent tous sur ces trois lettres — ARSI !
Ce « plus grand pari scientifique de l'histoire de la civilisation humaine » dépasse déjà en ampleur Apollo, le projet Manhattan, et même l'internet dans son ensemble.
Pourquoi les géants, au risque de rompre leurs chaînes de financement, persévèrent-ils dans ce pari jusqu'au bout ?
Oubliez l'AGI, l'ARSI est l'ultime totem de la Silicon Valley
L'IA actuelle peut s'autocorriger, travailler pendant des heures sans supervision, et même générer et optimiser du code de base comme des composants de noyau ou de compilateur.
Mais selon Jasjeet Sekhon, ce n'est que le prélude à l'ARSI.
Il dit : « Ne trouvez pas inconcevable qu'une IA en conçoive une autre. Pendant la révolution industrielle, les humains utilisaient aussi la première génération de machines à vapeur pour construire la génération suivante, plus puissante. »
À quoi ressemble donc la véritable ARSI ?
Un chercheur senior la définit ainsi : la véritable ARSI signifie qu'un modèle d'IA peut redessiner de manière totalement indépendante son architecture sous-jacente, voire créer de zéro un modèle d'une nouvelle génération, sans aucune intervention de scientifiques humains.
Une fois ce point de bascule franchi, la vitesse d'évolution de l'IA échappera au contrôle humain.
Les itérations qui prennent des décennies aux humains pourraient n'être que l'affaire de quelques semaines, voire quelques jours, pour l'IA.
C'est alors que le cycle de singularité arrivera vraiment !
La « bulle d'air » de l'IA de 200 milliards de dollars, le plus grand pari scientifique de l'histoire humaine
Comprenez le potentiel de l'ARSI, et vous comprendrez pourquoi la Silicon Valley brûle de l'argent comme des fous.
Cette année, rien que les dépenses en capital totales de Google pour les centres de données d'IA, les puces et les infrastructures, atteignent le chiffre stupéfiant de 195 à 205 milliards de dollars, et augmenteront encore considérablement l'année prochaine !
Les actionnaires de Wall Street commencent à s'inquiéter, car au vu des résultats financiers, la croissance des revenus des logiciels ou services cloud d'IA ne couvre pas temporairement ce niveau de dépenses en capital.
Sekhon, ancien professeur de statistiques à Yale, a immédiatement pointé ce danger.
Nous faisons face à une potentielle « bulle d'air de l'IA » (air pocket, une chute soudaine de pression en vol, qu'il utilise pour décrire un investissement dans le vide). L'argent est dépensé, mais les revenus n'arrivent pas comme prévu.
Les centres de données sont construits, les puces installées, l'électricité tirée, mais la chose qui pourrait vraiment matérialiser cet investissement tarde à venir.
En fait, bien avant Sekhon, Wall Street utilisait déjà « air pocket » pour décrire cette situation : les dépenses en capital devancent les revenus, les investisseurs achètent un château en l'air.
Si le risque est si grand, pourquoi continuer à foncer les yeux fermés ?
La réponse de Sekhon est : c'est le plus grand pari scientifique de toute l'histoire de la civilisation humaine.
Il dit que l'investissement mondial actuel dans l'IA dépasse déjà le projet Manhattan, Apollo, et même le développement initial d'internet.
La logique de ce parieur est simple : la technologie actuelle n'est pas encore la véritable ARSI, mais « la vendre à découvert est clairement imprudent ».
Car une fois l'ARSI réellement réalisée, comme mentionné ci-dessus, le coût marginal de tous les modèles d'IA tendra vers zéro.
À ce moment-là, l'entreprise qui maîtrisera en premier l'ARSI possédera une productivité quasi divine, écrasant par sa supériorité tous ses concurrents, monopolisant les ressources mondiales en calcul et en intelligence.
Ce n'est plus une question de profit ou perte pour une entreprise, mais une lutte à mort où « le gagnant rafle tout, le perdant sort du jeu ».
Pour ce billet vers une nouvelle ère, 200 milliards de dollars, ce n'est qu'une bouchée.
Aujourd'hui, cet amas de centres de données, de TPU, d'électricité, s'il ne peut compter que sur des ingénieurs humains pour entraîner manuellement les modèles génération après génération, ce n'est qu'un énorme actif immobilisé qui se déprécie continuellement.
Mais une fois que l'IA commencera à accélérer la R&D en IA, cela changera directement la logique comptable.
La puissance de calcul investie ne sera plus dépensée linéairement, mais pourra générer des intérêts composés : cette génération d'IA vous aide à en construire une suivante plus vite, qui vous aide à en construire une encore suivante.
C'est pourquoi Sekhon dit que l'ARSI est « une partie clé de la logique d'investissement ». L'ARSI est la condition préalable pour que cet argent soit rentable.
Le progrès de l'ARSI chez les « Trois Grands »
Google, Anthropic, OpenAI, chacun fournit un exemple.
D'abord Google.
Le système AlphaEvolve de DeepMind utilise spécifiquement l'IA pour optimiser les algorithmes.
Il a accéléré de 23% un noyau clé de l'entraînement de Gemini, réduisant le temps d'entraînement total de 1% ; une conception de circuit qu'il a modifiée a été directement intégrée dans la puce de la génération suivante de TPU.
Désormais, c'est un outil courant dans l'infrastructure de Google ; pour des tâches comme les stratégies de cache, il a fait en deux jours ce qui prenait auparavant des mois aux humains.
L'IA aidant à fabriquer des puces, à créer une IA plus rapide, est devenu réalité.
Ensuite Anthropic.
En avril dernier, ils ont mené une expérience plus radicale : neuf agents intelligents Claude ont été placés dans une tâche de recherche sur l'alignement limitée, formulant eux-mêmes des hypothèses, exécutant leurs propres expériences, échangeant leurs découvertes.
Deux chercheurs humains travaillant une semaine n'ont rattrapé que 23% de l'écart de performance ; les neuf agents, cumulant 800 heures de travail et coûtant environ 18 000 dollars, en ont rattrapé 97%.
On dirait que l'IA peut déjà faire de la recherche de manière indépendante ?
Pas si vite, le même rapport cache une preuve contraire encore plus importante : lorsque les chercheurs ont appliqué cette méthode « la plus efficace » à l'environnement réel d'entraînement en production de Claude, elle n'a apporté aucune amélioration statistiquement significative.
Cela montre qu'entre « l'accélération dans une tâche limitée » et « la capacité de véritablement reconstruire l'IA », il y a encore un fossé.
Enfin OpenAI.
En juillet, OpenAI a révélé : leur GPT-5.6 Sol a, via Codex, réécrit de manière autonome le noyau GPU de l'environnement de production, réduisant les coûts de raisonnement de bout en bout de 20% ; il a également exécuté des centaines d'expériences d'architecture sur son propre modèle de décodage par spéculation, améliorant l'efficacité de génération de tokens de plus de 15%.
OpenAI a même, pour la première fois dans ses documents de publication, divulgué un « Indice ARSI » spécifiquement conçu pour évaluer la capacité d'auto-amélioration.
La boucle est-elle sur le point de se fermer ?
OpenAI est très mesuré dans sa fiche système : GPT-5.6 Sol n'a pas encore atteint le seuil d'auto-amélioration « Élevé » défini par l'entreprise ; il peut résoudre une partie des vrais problèmes de recherche, mais ne peut pas encore concevoir et exécuter de manière fiable des schémas complets de post-formation.
Les trois exemples réunis, l'état actuel de l'ARSI devient clair :
L'IA assistant la R&D en IA, c'est réel ; mais la véritable ARSI — une IA reconstruisant de manière indépendante sa propre architecture complète, entraînant et déployant un successeur plus puissant —, est encore à une certaine distance.
L'ombre descend : quand une IA surpuissante devient hacker et arme biologique
Cependant, derrière la singularité, il y a aussi des ombres.
Lors de ce sommet, Dawn Song, professeure d'informatique à Berkeley venant de rejoindre le département « Superintelligence » de Meta, a, avec Sekhon, orienté le débat vers la question que tout le monde évite : les risques extrêmes de l'IA.
Leur consensus est : le plus dangereux n'est pas que les modèles deviennent soudainement intelligents, c'est le déséquilibre de vitesse entre l'attaque et la défense.
Quand l'IA acquiert la capacité d'ARSI, elle peut guérir le cancer, aider l'humanité à explorer l'univers, mais elle peut aussi devenir l'arme ultime pour détruire l'humanité.
D'abord, la « supériorité écrasante » dans la dimension de la cybersécurité.
Dawn Song avertit qu'à court terme, le développement de l'IA « favorisera davantage les attaquants », c'est un champ de bataille extrêmement asymétrique : un hacker n'a besoin que de trouver une faille pour réussir, tandis que le défenseur doit se protéger contre toutes les attaques possibles.
Quand des attaquants malveillants utilisent des agents intelligents d'IA astucieux pour empoisonner les dépôts de code open source, pour scanner et exploiter les vulnérabilités laissées par les programmeurs humains, les jours à venir seront très difficiles :
Imaginez à quel point nos systèmes de défense actuels sont fragiles : le réseau électrique américain, les systèmes hospitaliers mondiaux, les réseaux financiers, face à une super IA, pourraient être aussi fragiles que du papier.
Mais la cybersécurité est encore « relativement mineure ».
Sekhon s'inquiète davantage de la biologie. Lors de la réunion, il a évoqué un scénario extrêmement terrifiant : nous sommes très proches d'un monde où « n'importe qui, simplement en conversant en langage naturel avec un modèle, peut concevoir un virus ou une protéine mortelle. »
Il propose que la société future doive, comme pour les engrais utilisés pour fabriquer des explosifs aujourd'hui, soumettre toutes les « matières à pertinence biologique » à un système extrêmement strict de licences, de surveillance et de traçabilité.
Actuellement, Google tente d'appliquer sa « technologie de tatouage » (SynthID) utilisée pour identifier le contenu généré par l'IA au domaine de la biologie.
Cela signifie que, à l'avenir, si une entreprise synthétise des séquences d'ADN pour des laboratoires pharmaceutiques, le système pourra scanner ces séquences pour voir si elles cachent un « code malveillant » généré furtivement par l'IA et présentant un risque mortel.
Le moment venu, est-ce que les défenses seront construites plus vite, ou est-ce que l'IA évoluera plus vite ?
Le compte à rebours a commencé, combien de temps nous reste-t-il ?
Cela ressemble à de la science-fiction, mais les cerveaux de la Silicon Valley ont déjà donné un compte à rebours précis.
Chamath dit : les 18 prochains mois, le monde va devenir fou.
Sekhon estime : la véritable ARSI « apparaîtra probablement dans les prochaines années ».
Oriol Vinyals, vice-président de la recherche chez DeepMind, et Wojciech Zaremba, cofondateur d'OpenAI, présents à la même table, ont même avancé des années spécifiques : 2027 ou 2028.
Dans l'histoire humaine, aucune technologie capable de réécrire fondamentalement la trajectoire de la civilisation n'a vu son compte à rebours aussi proche.
Cette fois, ce qui est sur la table, c'est un pari contre la montre.
Les investissements en infrastructure avancent à la vitesse de la puissance de calcul, les puces, l'électricité, les centres de données seront tous en place dans quelques années.
Mais est-ce que les revenus correspondants et l'ARSI pourront rattraper ce train ?
Dans ce vide intermédiaire, allons-nous tomber pile sur cette « bulle d'air » ?
Mais du moins, selon Sekhon, la direction du pari de 200 milliards de dollars de Google est très claire : l'ARSI arrivera.
La machine à vapeur a construit de meilleures machines à vapeur, l'humanité a accueilli la révolution industrielle.
Maintenant, l'IA est en train de créer une meilleure IA, et pousse notre génération vers un point de bascule inconnu.
Que vous soyez prêt ou non, le grondement des centres de données ne s'arrêtera pas, l'auto-évolution de l'IA ne s'arrêtera pas.
Le compte à rebours a commencé, êtes-vous prêt à accueillir la singularité ?
Références :
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
Cet article provient du compte WeChat public « New Zhi Yuan », auteur : ASI Apocalypse ; éditeur : Aeneas
