Si l'intelligence artificielle générale (AGI) était réalisée demain, à quoi ressemblerait la prochaine étape de l'IA ?
L'équipe de Google DeepMind et ses collaborateurs proposent dans leur dernier rapport de recherche que l'AGI ne sera probablement pas l'arrivée. À leurs yeux, l'IA ne restera pas à un niveau proche de l'humain, mais continuera à devenir plus forte, dépassant les meilleures équipes d'experts humains, pour finalement évoluer vers une superintelligence artificielle (ASI).
Comme Alan Turing l'écrivait en 1950 : « Nous ne pouvons voir que sur une très courte distance devant nous, mais nous pouvons voir qu'il reste beaucoup de travail à faire. »
Dans ce rapport, l'équipe de recherche passe en revue quatre trajectoires potentielles de l'évolution de l'IA de l'AGI vers l'ASI, les goulots d'étranglement clés qui pourraient apparaître, et les questions de recherche les plus importantes à faire avancer.
Lien vers l'article : https://arxiv.org/abs/2606.12683
L'équipe de recherche indique qu'en raison de l'incertitude considérable entourant la prédiction des progrès de l'ASI, il n'est actuellement pas possible d'exclure la possibilité d'une accélération continue de l'IA dans les années à venir. Cela pourrait signifier que le scénario d'une « transition transformatrice unique » déclenchée par l'introduction d'une AGI de niveau humain dans la société n'est peut-être pas exact.
Une perspective plus appropriée pourrait être que les progrès et les percées pilotés par l'IA émergeront successivement dans de nombreux domaines de la science et de la technologie, déclenchant ainsi une série de changements sociétaux transformateurs.
Pour faire face à cette perspective, il est nécessaire de mener une ingénierie interdisciplinaire à grande échelle ayant une vision mondiale et des préoccupations étendues.
Après l'AGI, l'ASI
Avant de discuter de la manière dont l'IA pourrait continuer à devenir plus forte, l'équipe de recherche distingue trois concepts souvent confondus : AGI, ASI et UAI.
AGI (Intelligence Artificielle Générale) : Un système d'intelligence générale atteignant un niveau médian humain dans la plupart des tâches cognitives. Cela correspond aux capacités cognitives générales d'une personne ordinaire, et non au niveau d'un expert de pointe. L'équipe de recherche note également que la première génération d'AGI pourrait déjà surpasser les humains dans certaines tâches, sans encore avoir une généralité suffisamment large.
ASI (Superintelligence Artificielle) : Il ne s'agit pas seulement de surpasser les humains dans quelques tâches, mais de dépasser globalement l'humanité dans presque tous les domaines qui l'intéressent ; la référence n'est pas non plus un expert individuel, mais un collectif massif et bien coordonné d'experts humains.
UAI (Intelligence Artificielle Universelle) : La limite théorique supérieure de l'intelligence machine, décrite de manière formelle par le cadre AIXI. AIXI correspond à un agent intelligent général théoriquement optimal. L'IA réelle ne peut qu'approcher progressivement cette limite, sans pouvoir l'atteindre directement.
Simultanément, l'équipe de recherche souligne que le passage de l'AGI à l'ASI pourrait emprunter plus d'une trajectoire. Ils proposent quatre voies potentiellement parallèles :
Trajectoire 1 : Continuer à étendre le calcul, les modèles et les données
Cette trajectoire prolonge la logique fondamentale des progrès de l'IA de la dernière décennie : matériel plus puissant, plus grandes exécutions d'entraînement, efficacité algorithmique accrue, modèles plus grands et plus de données. L'équipe de recherche note que la « puissance de calcul effective » a augmenté d'environ un facteur 10 par an ces dernières années. Suivant cette voie, l'amélioration de l'IA proviendra non seulement de modèles individuels plus forts, mais aussi de l'extension des capacités collectives permise par plus d'instances, une inférence plus rapide et une collaboration à plus grande échelle.
Trajectoire 2 : L'évolution continue des algorithmes, voire un nouveau changement de paradigme
L'équipe de recherche indique que des contextes plus longs, l'apprentissage continu, l'augmentation par recherche (retrieval), l'utilisation d'outils, la prise de décision robuste dans des environnements interactifs, les modèles du monde, etc., relèvent d'extensions du paradigme existant ; tandis que de nouvelles architectures, objectifs d'entraînement ou mécanismes d'apprentissage se rapprochent davantage d'un véritable changement de paradigme. L'équipe ne prédit pas spécifiquement quel sera le prochain changement de paradigme, mais estime que cela pourrait rester une source importante de progrès continu de l'IA après l'AGI.
Trajectoire 3 : L'auto-amélioration récursive
Une IA plus forte peut aider à développer la prochaine génération d'IA encore plus forte, créant une boucle de rétroaction positive. L'équipe de recherche mentionne que ce mécanisme peut se manifester dans l'amélioration des algorithmes et du code, de la conception matérielle, de la génération et de la sélection de données, ainsi que de l'efficacité de la division du travail. AlphaZero, qui utilise d'abord la recherche pour améliorer sa sortie avant de distiller les résultats dans le modèle, est un exemple pertinent. Ce qui importe le plus est de savoir jusqu'où cette rétroaction positive pourra se développer dans la réalité.
Trajectoire 4 : Coordination multi-agents et intelligence en essaim
Cette trajectoire ne se concentre pas sur la puissance d'un modèle individuel, mais sur la formation d'une intelligence collective dépassant les limites des individus grâce à la division du travail et à la collaboration entre un grand nombre de systèmes AGI. L'équipe de recherche considère des formes potentielles telles que les entreprises automatisées, les organisations de recherche et les systèmes économiques virtuels. Selon cette voie, l'ASI pourrait ne pas être un modèle individuel extrêmement puissant, mais un collectif d'IA hautement coordonné.
L'équipe de recherche met également en garde : le passage de l'AGI à l'ASI ne consiste pas simplement à avoir toujours plus de puissance de calcul. L'expansion de la puissance de calcul est importante, mais atteindra rapidement un plafond de ressources ; il faudra donc compter sur de nouvelles idées algorithmiques, voire de nouveaux paradigmes. Plus notable encore, même si un AGI individuel n'est qu'approximativement au niveau humain, une fois qu'un grand nombre d'AGI pourront se diviser efficacement le travail et coopérer, leur capacité collective pourrait dépasser celle de l'humanité.
Quelles sont les véritables difficultés ?
Après avoir discuté des quatre trajectoires potentielles, l'équipe de recherche résume également six catégories de goulots d'étranglement clés qui pourraient affecter la poursuite du renforcement de l'IA :
1. Le mur des données
L'équipe de recherche souligne que les données de haute qualité générées par l'homme sont limitées. Les données textuelles humaines adaptées à l'entraînement préalable à grande échelle pourraient approcher leur limite au cours de cette décennie. Les données synthétiques, les données d'environnements simulés et les données générées par l'interaction de l'IA avec le monde réel pourront-elles combler ce déficit assez rapidement ? L'équipe ne tire pas de conclusion, mais le liste comme l'une des incertitudes centrales.
2. Les pressions économiques et sur les ressources naturelles
Si le progrès de l'IA continue de dépendre principalement de l'extension de l'échelle, alors l'énergie, les puces, les centres de données, les chaînes d'approvisionnement et les investissements en capital doivent croître de manière synchrone. L'équipe de recherche considère cela comme une contrainte réelle, mais note également que l'IA elle-même pourrait augmenter la production économique et améliorer l'efficacité des algorithmes et du matériel, atténuant ainsi ces pressions.
3. Le paradigme actuel des réseaux de neurones pourrait ne pas suffire
L'équipe de recherche n'exclut pas la possibilité que la voie actuelle mène à l'ASI, mais met en garde : cette voie peut présenter des limites fondamentales concernant l'apprentissage continu, le raisonnement stable, la prise de décision interactive, l'expression de l'incertitude, ainsi que des problèmes comme les hallucinations et les injections par prompt.
4. La recherche elle-même deviendra de plus en plus difficile
L'équipe de recherche souligne qu'avec la maturité du domaine, poursuivre les progrès nécessitera souvent des investissements plus élevés ; la question de savoir si l'IA peut contrer cette tendance via la recherche automatisée reste à étudier.
5. La barrière de l'abstraction
L'équipe de recherche estime que si l'IA d'aujourd'hui apprend principalement les concepts et les systèmes symboliques déjà formés par l'humanité, elle pourrait être douée pour réorganiser les concepts existants, mais pas nécessairement pour extraire de manière autonome de nouveaux primitifs conceptuels du monde brut. Par exemple, si un grand modèle moderne n'était entraîné que sur des connaissances pré-newtoniennes, il lui serait presque impossible de déduire uniquement à partir de ces matériaux la relativité générale ou la mécanique quantique.
6. Régulation, gouvernance et réaction sociale
L'équipe de recherche considère que les seuils réglementaires, les régimes d'autorisation, les exigences de déclaration d'incidents, ainsi que les réactions sociales déclenchées par des accidents, influenceront le rythme de l'expansion des capacités de l'IA. Il ne s'agit pas seulement d'un problème technique, mais implique également des politiques, des institutions, des marchés et la perception du risque par le public.
Limitations et développements futurs
Enfin, l'équipe de recherche pose une question très pratique : Si l'IA a déjà dépassé les humains, comment pouvons-nous continuer à évaluer ses capacités ?
Aujourd'hui, de nombreux benchmarks utilisent le niveau humain comme référence. Une fois que l'IA approche ou dépasse les meilleurs humains dans les examens, la programmation, les mathématiques, le Q&R et les tests de connaissances spécialisées, les indicateurs d'évaluation existants peuvent perdre leur sens. Par conséquent, l'avenir nécessitera d'établir un nouveau système d'évaluation et de prédiction pour l'ère post-AGI, incluant des tâches de compétition et de coopération multi-agents, des tests générés automatiquement, des tâches de compression universelle, des indicateurs indirects comme la productivité économique, ainsi qu'un mécanisme d'évaluation capable de se mettre à jour continuellement sans saturer prématurément.
Cependant, sur le fond, il ne s'agit pas d'un article expérimental, mais plutôt d'un rapport technique centré sur l'ère post-AGI. L'équipe de recherche souligne que les orientations futures méritant attention incluent : continuer à étendre les systèmes AGI existants, explorer de nouveaux paradigmes d'IA, réaliser une auto-amélioration récursive des systèmes, et former des capacités globales plus fortes grâce à une collaboration multi-agents à grande échelle.
Pour conclure, l'équipe de recherche précise que l'ASI n'est pas non plus un système « magique » omniscient et omnipotent ; elle reste soumise à des contraintes telles que les lois physiques, la complexité computationnelle, les données, les ressources, le temps d'expérimentation et la vitesse des retours d'expérience réels. La trajectoire que suivra l'IA et la vitesse à laquelle elle progressera restent très incertaines. À l'avenir, il sera encore nécessaire d'établir des mécanismes de référence, de prédiction et de recherche continuellement mis à jour pour réduire l'incertitude dans les jugements.
Cet article provient du compte WeChat public « Academic Headlines » (ID : SciTouTiao), auteur : Academic Headlines
