Si quelqu'un vous dit que l'AGI (Intelligence Artificielle Générale) est déjà réalisée, comment juger s'il dit la vérité ou s'il exagère ?
Dans l'accord secret révélé entre OpenAI et Microsoft, le critère est un bilan financier – un système d'IA capable de générer au moins 100 milliards de dollars de profit serait considéré comme une AGI. Dans la bouche de Jensen Huang (NVIDIA), ce critère est le temps – elle doit apparaître d'ici cinq ans. Elon Musk, lui, a maintes fois prophétisé "une réalisation l'année prochaine".
Les grands pontes de l'industrie ne sont pas sur la même longueur d'onde. La source du problème n'est pas que certains mentent, mais que le concept même d'AGI ne possède tout simplement pas de critère universellement reconnu. Comme le souligne un chercheur indépendant dans le domaine de l'AGI, Bennett, dans son article, l'AGI a été réduite par le battage médiatique et la spéculation à un "test de Rorschach" – chacun y voit le reflet de sa propre imagination, pas un fait objectif. La scientifique Melanie Mitchell du Santa Fe Institute pense aussi que ce débat ne pourra être clarifié que par une recherche scientifique à long terme. (Lien vers l'article : https://arxiv.org/pdf/2503.23923)
C'est le dilemme le plus absurde de l'industrie de l'IA actuelle : nous fonçons à toute vitesse vers un objectif dont nous n'avons même pas clairement tracé la ligne d'arrivée.
2025, qui redessine la ligne de départ de l'AGI ?
Face à ce vide de définition, le monde académique a intensément commencé à "combler les vides" en 2025. Bengio et d'autres chercheurs mettent l'accent sur la "polyvalence" et la "compétence" ; DeepMind propose une "AGI distribuée", tentant de briser le mythe de l'omnicompétence d'un seul agent.
Mais le chercheur Michael Timothy Bennett de l'Université Nationale Australienne, dans un article soumis sur arXiv fin mars, apporte une réponse extrêmement provocatrice et pourtant on ne peut plus pertinente.
Il souligne que les définitions précédentes tournent toujours, en fin de compte, autour de la comparaison avec un "adulte éduqué". Bennett adopte la définition de l'intelligence du chercheur Pei Wang – considérer l'intelligence comme une capacité d'adaptation sous des ressources limitées – s'extrayant ainsi fondamentalement du cadre "ressembler à l'humain", et définit l'AGI comme un "scientifique artificiel".
Il propose qu'une véritable AGI devrait être un système capable, sous des contraintes réelles de calcul, de mémoire et d'énergie, de s'adapter de manière large, efficace et scientifique à de nouveaux environnements et tâches, comme le ferait un scientifique humain.
Ce qui est sous-entendu dans cette phrase est : le critère pour juger une AGI ne devrait pas être à quel point elle imite l'humain, mais à quel point sa capacité à "découvrir de nouvelles connaissances" est forte.
Pourquoi avons-nous besoin d'un nouveau critère de toute urgence ? Parce que les anciens – le test de Turing et les benchmarks humains – ont été explosés par les grands modèles de langage, mais nous nous éloignons de plus en plus de la véritable intelligence générale.
En 2025, si vous demandez à un grand modèle de pointe "Qu'est-ce qui est plus grand, 9.11 ou 9.9 ?", il pourrait encore vous répondre avec assurance que 9.11 est plus grand, parce que 11 est supérieur à 9. Pour résoudre une preuve d'inégalité mathématique complexe, même si un grand modèle devine la bonne réponse, son processus de raisonnement est souvent un fiasco logique.
Bennett met le doigt sur la cause profonde : les grands modèles actuels suivent la voie de "l'approximation par maximisation d'échelle" – utiliser des données massives et de la puissance de calcul pour stocker à l'avance des réponses approximatives à toutes sortes de tâches dans les poids du réseau. Dès qu'ils rencontrent un problème hors distribution jamais vu auparavant, ils sont immédiatement démasqués.
Plus mortel encore, les grands modèles n'ont pas de "capacité active". Ils ne peuvent pas mener activement des expériences pour vérifier des hypothèses, ils ne peuvent pas construire de chaînes causales de manière autonome, encore moins arbitrer entre "continuer à explorer" et "exploiter le connu".
Pour en revenir à la comparaison entre 9.11 et 9.9 – le grand modèle ne sait pas faire l'arithmétique, c'est qu'il n'a tout simplement pas construit de modèle causal sur la comparaison des nombres. Il utilise juste des probabilités pour deviner le fragment de texte qu'il a déjà vu et qui est le plus proche.
Le fossé entre la "capacité d'imitation" et la "capacité d'adaptation" est précisément ce que ce nouveau standard AGI cherche à mesurer.
La nouvelle échelle de l'intelligence : décomposer le "scientifique artificiel"
La raison pour laquelle ce cadre de Bennett mérite l'attention, c'est qu'il réduit l'AGI d'une question philosophique vague à un problème d'ingénierie quantifiable.
À ses yeux, une véritable AGI devrait aligner parfaitement son mode de comportement sur le paradigme de recherche du scientifique humain :
Premièrement, de "marionnette" à "expérimentateur actif".
L'IA d'aujourd'hui est un apprenant purement passif, elle ne peut que "regarder" les données qu'on lui donne. Mais un scientifique ne fait pas cela. Si un scientifique était enfermé dans une pièce inconnue, il ne resterait pas planté là à attendre des informations ; il pousserait la porte, tirerait la poignée, vérifierait les fenêtres – c'est cela "l'expérimentation active". Une véritable AGI doit être capable de planifier des expériences de manière autonome et d'obtenir des informations clés par interaction active.
Deuxièmement, de "savoir que c'est" à "savoir pourquoi c'est".
C'est le plus grand point faible de l'IA actuelle. Les grands modèles sont des "appreneurs de corrélations" extrêmes ; ils savent que la "pluie" est souvent associée au "sol mouillé", mais ils ne savent pas qui cause qui. Ce n'est qu'en comprenant la causalité que l'on peut, par ciel clair mais sol mouillé, déduire que c'est un arroseur qui est passé et non qu'il va bientôt pleuvoir. Sans compréhension causale, l'IA ne pourra jamais que tourner en rond dans la distribution de ses données d'entraînement, ce qui n'a rien à voir avec le "général".
Troisièmement, marcher sur un fil entre "exploration" et "exploitation".
Si on ne fait qu'explorer sans exploiter, on ne résout pas le problème immédiat avec toutes les connaissances acquises ; si on ne fait qu'exploiter sans explorer, on est impuissant dès que l'environnement change. Une AGI doit équilibrer dynamiquement cette contradiction sous contrainte de ressources – savoir ce qu'elle ne sait pas, et allouer sa puissance de calcul en conséquence.
En outre, Bennett ajoute une dimension très réaliste : la limitation énergétique. Inclure "l'énergie" dans la définition signifie qu'il trace une ligne de fond : l'intelligence véritable n'est pas de disposer de ressources infinies, mais de s'adapter avec élégance sous des ressources limitées. Une IA qui nécessite de consommer une centrale nucléaire pour résoudre un nouveau problème n'est qu'une calculatrice onéreuse, pas une AGI.
Réinitialisation de la voie vers l'AGI : dire adieu à la loi unique de mise à l'échelle (Scaling Law)
Sur la base de ce cadre, Bennett décompose les méthodes méta actuelles de construction de systèmes intelligents en trois catégories :
Scale-maxing (Maximisation de l'échelle) : La voie dominante actuelle des grands modèles, qui entasse frénétiquement les paramètres, les données et la puissance de calcul. Mais la limite est déjà visible : l'efficacité de l'échantillonnage et de l'énergie est extrêmement faible.
Simp-maxing (Maximisation de la simplicité) : Recherche une simplicité extrême de la structure du modèle, adhérant au rasoir d'Occam. Mais la simplicité est une propriété de la forme et non de la fonction – la définition du "plus simple" peut être totalement différente sous différentes machines de Turing, ce qui rend difficile d'échapper au piège de la subjectivité.
W-maxing (Maximisation de l'affaiblissement des contraintes) : Affaiblir autant que possible les contraintes fonctionnelles, laissant le système trouver la solution optimale par lui-même. Les expériences montrent que la seule W-maxing peut déjà améliorer les taux de généralisation de 110% à 500% sur des tâches spécifiques, mais elle nécessite d'explorer un espace infini de formes matérielles, rendant l'optimisation extrêmement difficile.
La conclusion de Bennett est extrêmement claire : bien que le Scale-maxing domine actuellement de manière absolue, l'AGI n'est certainement pas quelque chose que l'on peut atteindre par la force brute d'une seule méthode ; elle sera nécessairement une fusion de plusieurs méthodes méta.
Si la définition du "scientifique artificiel" est largement acceptée, l'industrie de l'IA connaîtra un transfert de paradigme profond.
Les critères d'évaluation changeront radicalement. Nous n'aurons plus besoin de voir à combien de points les grands modèles dépassent encore les humains sur les classements d'examens, mais d'établir un ensemble de "benchmarks d'adaptabilité" : plonger l'IA dans un environnement physique jamais vu auparavant, voir si elle peut découvrir des règles en un nombre limité d'interactions ; lui donner un nouveau jeu, voir si elle peut en comprendre les règles plus vite qu'un humain ; voire la laisser résoudre de vrais problèmes scientifiques, voir si elle peut proposer des hypothèses de manière autonome et concevoir des expériences pour les vérifier. Le cœur n'est plus "combien tu sais", mais "combien tu peux découvrir".
Les voies technologiques évolueront en conséquence. Le simple Scaling Law atteindra rapidement ses limites, car les données reçues passivement ne peuvent nourrir la causalité. Recherche et approximation, maximisation d'échelle et affaiblissement des contraintes – la réalisation de l'AGI sera nécessairement une fusion de multiples outils et méthodes méta, et non une extension d'une seule voie.
L'article de Bennett est important, non pas parce qu'il donne la réponse ultime à l'AGI, mais parce qu'il nettoie un coin de ce miroir flou nommé "intelligence". Il nous permet de voir que la réalisation de l'AGI n'est pas une itération linéaire des grands modèles, mais une réinitialisation de la voie.
À quoi devrait finalement ressembler une AGI ? La réponse ne se trouve pas dans ces conversations de plus en plus humaines, mais dans ces capacités à s'interroger activement sur le "pourquoi" et à aller vérifier la réponse de ses propres mains. Lorsque l'IA sortira vraiment de la brume du "test de Rorschach", elle ne se contentera plus d'imiter l'apparence humaine, mais elle possédera l'esprit du scientifique. (Cet article est initialement paru sur l'APP Titanium Media, auteur | Silicon Valley Tech News, éditeur | Zhao Hongyu)
