Qui l'aurait cru ? La philosophie, cette discipline autrefois confidentielle, est devenue un sujet brûlant dans le monde de l'IA actuelle.
C'est une découverte inattendue que nous avons faite cette année en visitant le WAIC – la teneur en philosophie y est assez élevée.
△
Par exemple, lors de l'atelier parallèle « Esprit et Intelligence · Forum Jeunesse » du Forum d'ouverture de l'Intelligence scientifique du WAIC, le premier intervenant à monter sur scène était le professeur Sun Ning de la Faculté de philosophie de l'Université Fudan ; lors de la discussion principale du Forum d'ouverture de l'Intelligence scientifique « L'innovation originelle à l'ère native de l'IA », le professeur Sun Xiangchen de la Faculté de philosophie de l'Université Fudan était également assis parmi les participants du dialogue d'experts.
Ce n'est pas un cas isolé. Le « Livre Bleu sur le Développement Intelligent des Sciences Humaines et Sociales 2026 », publié pendant le WAIC par le Laboratoire Intégré de Développement National et de Gouvernance Intelligente de l'Université Fudan, a de nouveau placé sous les projecteurs la réflexion approfondie, la crédibilité scientifique et la gouvernance de l'IA.
Mais, pour être honnête, cet engouement soudain pour la philosophie est en fait prévisible.
Il y a quelques années, lors des conférences sur l'IA, on parlait surtout de paramètres, de puissance de calcul et de classements ; aujourd'hui, l'IA sait écrire des articles, faire des démonstrations mathématiques, générer des conformations protéiques et même simuler une société avec une multitude d'agents intelligents.
Si l'IA avance à grands pas en termes de capacités, les problèmes qu'elle soulève se rapprochent de plus en plus de la philosophie :
- Un modèle qui répond avec fluidité, est-ce qu'il comprend vraiment ?
- Si l'IA peut découvrir des connaissances de manière autonome, peut-on la considérer comme un nouveau scientifique ?
- Si l'IA découvre des lois que l'homme ne peut expliquer, mais qui sont vérifiables expérimentalement, devrions-nous y croire ?
Dans son discours intitulé « Avant l'intelligence, il y a un monde », Sun Ning a ramené la question à sa source.
Dès les années 1990, le scientifique cognitif Stevan Harnad posait le problème de l'ancrage symbolique, en demandant comment un système symbolique acquiert une signification réelle par la perception et l'interaction. À peu près à la même époque, l'ingénieur roboticien Rodney Brooks proposait l'hypothèse de l'ancrage physique, laissant une phrase très influente – le monde est son propre meilleur modèle.
△
En suivant cette logique, Sun Ning propose qu'une intelligence profondément ancrée dans le monde nécessite au moins un corps, un environnement, autrui et une histoire. Le corps rend l'action coûteuse, l'environnement fournit un retour, autrui apporte des normes, et l'histoire permet à l'échec de se transformer en expérience.
Il résume cela en deux phrases :
Avant l'intelligence, il y a un monde. Avant l'esprit, il y a une relation.
Cela a également donné le ton à la discussion de la journée.
Ce Forum Jeunesse était organisé par le Laboratoire Intégré de Développement National et de Gouvernance Intelligente de l'Université Fudan, l'Institut de Shanghai pour l'Intelligence Scientifique, la Faculté de philosophie de l'Université Fudan, l'Institut des Technologies Futures Fudan Qingpu de Shanghai et Datawhale.
Sur scène, il y avait à la fois de jeunes scientifiques, des philosophes, des chercheurs en sciences sociales et des entrepreneurs. Les discussions sont allées des modèles d'auto-évolution aux démonstrations mathématiques, de la dynamique des protéines à la simulation sociale, pour finalement se concentrer sur la gouvernance et l'industrie.
Ainsi, des questions éparpillées dans différentes disciplines ont été reliées entre elles.
L'IA commence à faire de la science par elle-même
Alors que le philosophe venait de s'interroger sur « ce qu'est l'intelligence », Chen Yongchao, fondateur de SuperDerivation AI, a soulevé une question plus concrète – l'IA peut-elle devenir un nouveau scientifique ?
△
Les grands modèles du passé apprenaient principalement à partir des données d'Internet, assimilant les connaissances humaines existantes. Les modèles d'auto-évolution dont parle Chen Yongchao visent à s'engager dans des tâches réelles, en apprenant continuellement à partir du processus de recherche scientifique et des retours de l'environnement.
Concrètement, le modèle peut générer lui-même des idées, écrire du code, exécuter des expériences, analyser des données, puis capitaliser sur les trajectoires de succès et d'échec pour ajuster continuellement les données, le modèle et le dispositif de contrôle (Harness).
Chen Yongchao a également présenté sur scène des résultats assez saisissants.
Son équipe a développé Apex Search qui a généré 34 articles, soumis aux systèmes d'évaluation académique de l'ACL, de l'ARR, etc. Selon les résultats qu'il a dévoilés lors de la conférence, environ 10 d'entre eux avaient une chance d'être acceptés en Findings ou en conférence principale, deux articles ont obtenu un score de 3,67, supérieur à environ 95 % des soumissions humaines.
Certaines opinions des évaluateurs comprenaient même des commentaires tels que « première recherche dans le domaine », « expérimentation rigoureuse », « problématique bien ciblée », etc.
En d'autres termes, les résultats de recherche scientifique générés par l'IA ont déjà pu passer le premier filtre des évaluateurs humains.
Mais des questions se posent également.
Lors de la table ronde « Les Changements Sociaux » qui a suivi, le professeur Wei Zhongyu de la Faculté des mégadonnées de l'Université Fudan a souligné : si l'IA génère et soumet des dizaines d'articles en une fois, et que quelques-uns obtiennent des scores élevés, comment devons-nous évaluer ses capacités de recherche ? Cela signifie-t-il que le système a atteint le niveau de publication des meilleures conférences, ou a-t-il simplement trouvé les points faibles du système actuel d'évaluation par les pairs ?
Alors que les articles sont générés de plus en plus vite, l'évaluation pourrait devenir plus difficile que la génération.
Chen Yongchao lui-même a laissé une série de questions. L'IA peut-elle produire des percées du niveau de Transformer ? Comment évaluer les découvertes scientifiques massives ? À qui appartiennent les résultats de recherche de l'IA ? Si le système est utilisé pour des recherches néfastes, comment répartir la responsabilité ?
Le professeur adjoint Wang Tiandong du Centre de Mathématiques de Shanghai de l'Université Fudan, qui est monté sur scène ensuite, a proposé une division du travail homme-machine plus claire.
△
L'IA excelle dans la recherche, l'induction, la recherche de cas particuliers et de contre-exemples, et peut également générer simultanément des dizaines de voies de démonstration candidates. Le mathématicien est responsable de juger si un problème est important, si une conjecture mérite d'être étudiée, puis d'appliquer des contraintes rigoureuses aux résultats à l'aide de concepts et de structures. Enfin, il faut ajouter une vérification machine pour contrôler s'il n'y a pas de sauts dans le raisonnement ou d'erreurs de calcul.
En clair :
L'IA élargit l'espace de recherche, l'homme définit la valeur, la machine se charge de la vérification.
Dans ce processus, les mathématiques peuvent fournir à l'IA des contraintes structurelles, une vérification formelle, une analyse des erreurs et des limites d'application. La confiance ne signifie pas ne jamais faire d'erreur ; un critère plus réaliste est que les erreurs puissent être détectées, les risques puissent être délimités et les conclusions puissent être réexaminées.
Ensuite, le scientifique en IA Yang Zixiong de l'Institut de Shanghai pour l'Intelligence Scientifique a apporté la question de la crédibilité dans le monde vivant, encore plus complexe.
△
AlphaFold résout le problème central d'inférer une structure statique de haute probabilité à partir d'une séquence. Mais les molécules biologiques comme les protéines et l'ARN sont toujours en mouvement, et de nombreuses fonctions dépendent de la distribution des conformations, des transitions d'état et des échelles de temps.
Par conséquent, l'objectif de recherche de l'ère post-AlphaFold passe de « prédire une structure » à « générer une dynamique ».
Cela signifie que le modèle doit à la fois couvrir des conformations rares mais importantes, maintenir la stabilité structurelle pendant de longues périodes de génération, et satisfaire aux lois thermodynamiques, cinétiques et physiques. Si les données sur les structures statiques sont abondantes, celles sur les molécules dynamiques sont très limitées, et le système d'évaluation correspondant reste à améliorer.
Des démonstrations mathématiques à la dynamique protéique, l'IA peut certainement accélérer et élargir l'exploration. Mais dès qu'il s'agit de découvertes scientifiques effectives, les preuves, les expériences et les retours du monde réel sont indispensables.
Si les mathématiques et les sciences de la vie ont des voies de vérification relativement claires, les choses se compliquent lorsque l'IA commence à simuler l'homme et la société.
Quand l'intelligence entre dans la société, la gouvernance ne doit pas prendre de retard
La jeune scientifique Qu Jingjing du Shanghai AI Lab étudie précisément l'intersection entre l'IA et les sciences sociales.
△
Selon elle, les sciences sociales sont une base fondamentale du développement de l'IA. La recherche d'Alan Turing sur « les machines peuvent-elles penser » a été publiée dans la revue de philosophie *Mind* ; Herbert A. Simon a proposé la théorie de la rationalité limitée et, avec Allen Newell, a fondé l'hypothèse du système de symboles physiques, ouvrant la voie à l'IA symbolique ; Geoffrey Hinton a combiné psychologie et sciences cognitives pour développer des réseaux de neurones, simulant les mécanismes du cerveau humain, ce qui a conduit à l'ère actuelle des grands modèles.
Et maintenant, cette relation commence à fonctionner en sens inverse, l'IA apportant également de nouvelles méthodes expérimentales aux sciences sociales. Cependant, lorsque l'AGI évolue vers la socialisation et la mise à l'échelle, un problème central subsiste : dans les jeux d'évolution sociale à grande échelle et complexes, il est difficile de concilier cohérence logique et crédibilité des résultats expérimentaux.
Qu Jingjing a présenté la plateforme de simulation sociale Epitome. En termes d'efficacité à haut débit, la plateforme peut générer d'un clic des milliers d'échantillons virtuels, compressant un processus d'évolution sociale de dix ans en 14 heures. Les chercheurs peuvent ajuster librement des variables comme les politiques d'intervention, les relations de groupe, etc., et observer rapidement leurs impacts sociaux à long terme.
Ce type de méthode est particulièrement adapté aux expériences difficiles à mener directement dans le monde réel.
Par exemple, comment simuler la croissance d'un enfant du CE2 au CM1 ? Le modèle doit refléter à la fois les changements de connaissances et simuler la psychologie, le comportement et les relations sociales. Les chercheurs souhaitent également tester différentes politiques éducatives dans cet environnement virtuel, pour observer quelle approche favorise le mieux le développement de l'enfant.
Bien que l'idée soit séduisante, les risques y sont également présents.
Après tout, un grand modèle peut simuler un expert, mais pas nécessairement un enfant issu d'un contexte familial, géographique et social spécifique. L'attitude exprimée par un personnage virtuel provient-elle de véritables lois sociales ou de stéréotypes présents dans les données d'entraînement ?
Lors de la table ronde *Les Changements Sociaux*, Jiang Zhuoren, chercheur au programme « Cent Talents » et directeur de thèse à la Faculté d'administration publique de l'Université du Zhejiang, a partagé des données plus alarmantes.
Dans une étude transnationale sur la confiance, le coefficient de corrélation des données générées par un grand modèle au niveau des moyennes nationales pouvait dépasser 90 %. Mais lorsqu'on passait à l'analyse de régression, la couverture significative tombait à 34-37 % ; lorsque les chercheurs ont tenté d'utiliser ces données pour identifier les types de pays, les résultats étaient proches du hasard.
En d'autres termes, le modèle semble très proche de la société réelle au niveau macro, mais dès qu'on entre dans des populations spécifiques et des relations causales, les biais apparaissent.
Ce qui est plus problématique, c'est que les données sociales peuvent former une boucle.
Les préjugés réels entrent dans les données d'entraînement, le modèle participe ensuite au recrutement, à l'éducation, à la diffusion de contenu et aux décisions publiques, et les nouveaux résultats deviennent la matière première pour le prochain cycle d'entraînement. Sans audit et correction, les préjugés originaux peuvent être continuellement amplifiés dans cette boucle.
Ainsi, un avertissement très direct est apparu lors de la table ronde :
On peut utiliser les grands modèles pour simuler la société, mais il ne faut pas prendre les résultats de simulation pour la voix de la société réelle.
Une fois que l'IA entre dans la société, la gouvernance ne peut plus se limiter à « l'exactitude du modèle ».
La table ronde « La Question de l'Esprit » a abordé les risques d'attaques, de recherches sur les organismes nuisibles, de dépendance psychologique, etc. Zhu Linfan, jeune chercheur associé à l'Institut d'éthique technologique et d'avenir humain de l'Université Fudan, a également mentionné que la gouvernance de l'IA est actuellement confrontée au dilemme général « trop de contrôle tue, pas assez crée le chaos », nécessitant une recherche conjointe de solutions plus nuancées impliquant la technologie, les politiques, l'éthique et la coopération internationale.
Ma Lipeng, jeune chercheur à l'Institut des Technologies Futures Fudan Qingpu de Shanghai, présent lors de la même session, a ajouté une perspective technique. L'IA d'aujourd'hui peut presque tout répondre, mais elle manque de la capacité métacognitive de « savoir ce qu'elle ne sait pas ». Ce n'est qu'en permettant d'abord à l'IA de reconnaître ses propres capacités et limites que les évaluations et la gouvernance ultérieures auront plus de prise. Pour cela, la participation conjointe de différentes disciplines comme la philosophie, les sciences de l'éducation et l'informatique est nécessaire.
La question de la responsabilité devient également de plus en plus épineuse.
Lorsqu'un agent IA possède une plus grande autonomie, peut-il devenir un acteur au sens juridique ou moral ? S'il ne peut assumer de responsabilité de manière indépendante, comment la responsabilité doit-elle être répartie entre les développeurs, les déployeurs, les utilisateurs et les décideurs finaux ?
Arrivé à ce point, on comprend mieux pourquoi le Laboratoire Intégré de Développement National et de Gouvernance Intelligente de l'Université Fudan figurait parmi les organisateurs de ce forum sur l'intelligence scientifique.
Les recherches de ce laboratoire couvrent l'intelligence artificielle, les mégadonnées, les sciences humaines et sociales, la gouvernance publique, etc. ; il s'agit d'un des premiers laboratoires clés du Ministère de l'Éducation en philosophie et sciences sociales. Une de ses missions importantes est d'observer les changements technologiques dans l'environnement réel de la société et des institutions, puis de promouvoir la connexion entre la recherche académique et les besoins politiques.
Le « Livre Bleu sur le Développement Intelligent des Sciences Humaines et Sociales 2026 », dirigé par l'écosystème AI+ nouvelles humanités de l'Université Fudan, en collaboration avec l'Institut de Shanghai pour l'Intelligence Scientifique, et rédigé avec la participation de plus de 40 experts d'une vingtaine de disciplines, tente de transformer de nombreux principes de gouvernance apparemment abstraits en processus de recherche et procédures institutionnelles exécutables.
Par exemple, lorsque l'IA entre dans la recherche scientifique, ce qui reste ne doit pas être seulement un article au langage fluide. La question de recherche, le dictionnaire de données, les scripts d'analyse, les journaux d'exécution, les opinions d'examen et les arbitrages humains doivent également être conservés, permettant à d'autres de retracer toute la chaîne de preuves.
Le cadre STRIDES proposé par le Livre Bleu établit des points de contrôle aux étapes théoriques, méthodologiques, des données, d'exécution et d'examen. Les hypothèses à préciser, les preuves à localiser, les conclusions à faible degré de confiance qui doivent être soumises à nouveau au jugement humain, tout cela est intégré au processus.
Dans le domaine de la gouvernance publique, la question est plus directe.
Le Livre Bleu distingue deux modes d'intégration de l'IA : le mode agent et le mode assistant. Le premier laisse l'algorithme participer à la décision finale, l'intervention humaine n'ayant souvent lieu qu'en cas de dysfonctionnement du système ou de recours ; le second confie à l'IA la recherche, le calcul, l'alerte aux risques et la génération de solutions, la décision finale restant entre les mains de l'homme.
Et le « *human-in-the-loop* » ne doit pas se réduire à un simple bouton de confirmation. L'humain doit avoir le droit d'intervention, de correction et d'explication.
Sous cet angle, la gouvernance ressemble plus à la construction d'une route pour la technologie. Les scénarios où l'on peut accélérer, les endroits où des barrières de sécurité sont nécessaires, qui doit vérifier, expliquer et assumer la responsabilité en cas de problème, tout cela doit être intégré à l'avance dans les règles.
En outre, l'édition 2026 du Livre Bleu a construit l'« Indice AI4SSH des universités chinoises », observant le degré d'intégration de l'IA et des sciences humaines et sociales dans les universités selon des dimensions comme la capacité de recherche fondamentale, le potentiel d'innovation de développement et la capacité de diffusion sociale.
Le message qu'il transmet est clair. Pour qu'un domaine développe des capacités à long terme, quelques articles et modèles ne suffisent pas ; il faut aussi des données, une puissance de calcul, une chaîne d'outils, la formation de talents, la collaboration organisationnelle et un système d'évaluation.
C'est précisément la signification du rôle de connexion entre le monde académique et les politiques joué par le Laboratoire Intégré de Développement National et de Gouvernance Intelligente. La technologie offre de nouvelles possibilités, les sciences sociales en expliquent les impacts, l'économie étudie les incitations et la répartition, et la recherche en gouvernance transforme ces connaissances en procédures et institutions.
À Shanghai, le monde académique, les politiques et l'industrie sont connectés en une seule chaîne
En descendant encore dans la question de la gouvernance, on finit par rencontrer l'industrie.
Luo Xiaozhou, chercheur à l'Institut de technologie avancée de Shenzhen de l'Académie chinoise des sciences et fondateur de Synbiotech, a donné sur scène un exemple très parlant de la différence.
△
L'IA écrit du code, fait des mathématiques, de nombreux processus peuvent former une boucle fermée dans l'ordinateur. Mais la biofabrication doit encore franchir le fossé entre le monde numérique et le monde physique.
Après qu'un modèle a formulé une hypothèse scientifique, l'équipement expérimental doit la réaliser concrètement, puis renvoyer les résultats de détection au modèle. Si une seule étape n'est pas assurée, l'auto-évolution s'arrête.
L'équipe de Luo Xiaozhou s'appuie sur les grandes installations scientifiques de biologie synthétique de Shenzhen, d'un investissement de plus de 2 milliards de yuans, utilisant des équipements automatisés comme « corps et mains », et laissant à l'IA la conception et la décision expérimentales. Ils souhaitent qu'après saisie d'un besoin, le système puisse automatiquement concevoir l'expérience, écrire le script, exécuter les opérations, collecter les données, puis passer au cycle d'optimisation suivant.
La technologie a déjà été utilisée pour le développement et la production de produits comme le squalène et le squalane. Parmi eux, le produit squalène est entré dans la chaîne d'approvisionnement de Merck, et le squalane dans la chaîne d'approvisionnement cosmétique.
Mais la fusion profonde de la recherche et de l'industrie, le modèle n'en est qu'un maillon.
La table ronde « La Voie de l'Application » a été très franche. L'IA peut accélérer la conception d'anticorps, l'optimisation des protéines et la modification de souches, mais il reste ensuite les expériences en laboratoire humide, les essais cliniques, les approbations, les procédés, la production et le marché.
Zhang Yan, co-fondateur et vice-président senior de MegaRobo Technologies, a résumé la difficulté en parlant du « dernier kilomètre » de l'application de l'IA dans le monde physique. Selon lui, l'automatisation en laboratoire et la robotique sont relativement matures, ce qui est plus difficile, c'est de véritablement relier l'IA, les systèmes logiciels, les instruments et équipements aux besoins spécifiques des disciplines. Pour cela, MegaRobo Technologies tente de faire en sorte que les instruments et robots du laboratoire soient contrôlés comme des périphériques informatiques, puis de fermer la boucle entre le modèle, l'expérimentation automatisée et le retour des données.
Si l'amont raccourcit le temps de R&D, le goulet d'étranglement se déplacera probablement rapidement vers l'étape suivante. Si les systèmes de régulation, les habitudes industrielles et les processus organisationnels ne changent pas simultanément, l'accélération apportée par la technologie aura du mal à se propager le long de la chaîne de valeur.
Bien sûr, la question de l'argent est également incontournable.
Lorsque les fournisseurs de données, les développeurs de modèles, les plateformes d'expérimentation automatisée et les clients industriels co-créent un résultat, comment facturer et comment répartir les bénéfices ? Zhang Yan a également été très direct : les nouvelles forces productives modifient les relations de production, en plus de « comment gagner de l'argent », il faut aussi réfléchir clairement à « comment partager l'argent » entre les différentes parties de la chaîne.
Cela semble très concret, mais cela touche aux changements profonds induits par l'entrée de l'IA dans l'industrie.
Autrefois, les différentes parties facturaient selon les étapes de travail ; aujourd'hui, l'IA pousse l'industrie à passer d'une livraison de processus à une livraison de résultats, les participants commençant à être collectivement responsables du résultat final.
Les nouvelles forces productives génèrent également de nouvelles relations de production.
Cela relève également du champ de la gouvernance de l'IA. Outre la sécurité, l'éthique et les droits, la répartition des bénéfices technologiques, l'ajustement des règles industrielles et l'adaptation de la régulation traditionnelle à la nouvelle vitesse de la recherche scientifique nécessitent tous des études.
En y regardant de plus près, la composition des intervenants de ce Forum Jeunesse était en réalité très intéressante.
Certains étudient les modèles d'auto-évolution, d'autres établissent des limites de confiance pour l'IA, d'autres explorent la dynamique des protéines et la simulation sociale ; il y a aussi des rédacteurs de revues qui, partant du système d'évaluation académique, interrogent sur les problèmes réels que la recherche en IA résout ; et d'autres encore, passant du laboratoire à l'entrepreneuriat, font avancer les résultats de recherche vers l'expérimentation automatisée et la production industrielle.
Ils viennent de spécialités et d'institutions différentes, mais se sont réunis à Shanghai.
Le même après-midi, la session principale du Forum d'ouverture de l'Intelligence scientifique a suivi les thèmes « la voie de la découverte, la base de la boucle fermée, la voie de l'application », avec des invités comme le lauréat du prix Nobel de chimie Arieh Warshel, le lauréat du prix Turing Gilles Brassard, discutant de l'intelligence scientifique et de l'innovation originelle.
Le Forum Jeunesse, quant à lui, a braqué les projecteurs sur la crédibilité de la recherche, la gouvernance sociale et la chaîne industrielle.
D'un côté, on discute jusqu'où peut aller l'intelligence scientifique ; de l'autre, on continue à se demander comment elle peut entrer de manière stable dans la réalité.
Derrière cela, c'est un écosystème jeunesse pour l'intelligence scientifique qui se forme à Shanghai.
Shanghai fournit les universités, les instituts de recherche, les ressources industrielles et les plateformes d'études politiques, tandis que les jeunes traversent ici les frontières disciplinaires, plaçant les modèles, la société et l'industrie dans le même ensemble de problématiques.
Ainsi, le regain d'intérêt pour la philosophie dans le milieu de l'IA n'est que la partie émergée de ce changement.
Plus en profondeur, l'IA a déjà pénétré la production de connaissances et le fonctionnement social, et les problèmes techniques commencent à s'entremêler avec la gouvernance, l'économie, l'éthique et les politiques publiques.
Plus l'IA sait répondre, plus l'humain doit sérieusement décider quoi demander, à quoi croire, et où conduire la technologie.
Cet article provient du compte officiel WeChat « QbitAI » (ID : QbitAI), auteur : Jin Lei
