« L'essence de l'explication ne réside pas à fixer la machine elle-même, mais à examiner le monde que la machine fixe ».
En juillet 2026, l'équipe de recherche d'Anthropic a publié « A global workspace in language models », identifiant via un outil nommé J-lens une région d'activité neuronale à l'intérieur de Claude pouvant être observée, intervenue et ayant une efficacité causale – le J-Space.
Cette découverte a suscité une attention considérable car elle permet aux chercheurs d'entrevoir le « monologue intérieur » du modèle lors de son raisonnement, marquant une transition des recherches en interprétabilité de l'explication du comportement du modèle vers l'observation en temps réel de ses états internes.
S'appuyant sur la théorie de l'espace de travail global en neurosciences cognitives comme cadre explicatif, le J-Space assimile l'activité de raisonnement des modèles de langage au traitement de l'information au niveau de la conscience humaine, constituant une avancée importante tant sur le plan méthodologique qu'épistémologique, et offrant également une nouvelle dimension de surveillance pour la sécurité de l'IA.
Cependant, précisément en raison de son impact profond, il est d'autant plus nécessaire d'examiner avec prudence les limites intrinsèques de cette approche. La recherche sur le J-Space est fondamentalement internaliste – elle définit la question centrale de l'interprétabilité comme « comprendre ce qui se passe à l'intérieur du modèle », tentant, comme un neuroscientifique scannant un cerveau humain avec l'IRMf, de scanner l'activité neuronale d'un modèle de langage avec le J-lens.
Cette approche présuppose que la réponse à l'interprétabilité se trouve à « l'intérieur » du modèle. Or, si la sortie d'un modèle peut être comprise dépend non seulement de la visibilité de ses états internes, mais aussi des relations entre ces états et les faits du monde, les normes sémantiques et les cadres cognitifs des utilisateurs.
Comprendre le discours d'un modèle uniquement en observant son activité neuronale, c'est comme comprendre les paroles d'une personne uniquement en observant son activité cérébrale – nous pourrions peut-être capter des corrélations neuronales, mais nous n'atteindrions jamais le sens même du discours.
En outre, le J-Space emprunte la théorie de l'espace de travail global, une théorie sur la conscience, pour expliquer les modèles de langage. Au cours de ce transfert, une subtile erreur de catégorie se produit : l'isomorphisme au niveau fonctionnel est confondu avec l'équivalence au niveau épistémologique.
Le modèle n'a pas d'expérience subjective ; les motifs d'activation dans le J-Space sont simplement le produit d'opérations mathématiques, et non un état mental quelconque.
Un problème plus profond est que la recherche sur le J-Space est essentiellement une entreprise d'ingénierie ; elle réduit l'« interprétabilité » à l'« observabilité » et l'« interventionalité ». Cependant, dans la tradition épistémologique plus large, le sens d'« explication » est bien plus riche – il implique d'intégrer les phénomènes dans un cadre de lois plus générales, de fournir des raisons et des justifications, et également d'argumenter sur la légitimité des décisions.
Le J-Space peut nous dire « à quoi pense » le modèle, mais il ne peut pas nous dire pourquoi le modèle pense de cette manière, quelles sont les « raisons » sur lesquelles il s'appuie, ni dans quel sens ces raisons sont « bonnes ». Les réponses à ces questions ne se trouvent pas dans les motifs d'activité neuronale.
Les limites ci-dessus pointent vers un problème commun : le J-Space, et même l'ensemble de la recherche en interprétabilité centrée sur les réseaux neuronaux, continue de prendre « le modèle lui-même » comme le seul objet d'explication, le point de départ et d'arrivée du problème étant le modèle.
Cet article tente de proposer une perspective différente – déplacer l'interrogation sur l'interprétabilité de l'intérieur du modèle vers l'information traitée par le modèle, de l'approche internaliste des neurosciences vers l'approche « ontologique de l'information » de l'épistémologie.
Ce changement repose sur une observation simple : les grands modèles de langage sont essentiellement des processeurs d'information ; leurs entrées et sorties sont du texte, et le sens de ce texte – c'est-à-dire ce que nous avons vraiment besoin d'expliquer – ne réside pas dans les valeurs d'activation des neurones, mais dans les relations de ces symboles avec le monde, la connaissance et les pratiques humaines.
Lorsqu'un modèle répond « Paris est la capitale de la France », ce que nous devons expliquer n'est pas seulement quelle région interne du modèle est activée, mais aussi dans quel système de connaissances cette affirmation est valide, sur quoi elle se fonde, quelle est la fiabilité et la légitimité de ces fondements, quelle est la relation entre cette réponse et les connaissances géographiques humaines existantes – aucune de ces questions ne peut être répondue en scannant l'activité neuronale.
Par conséquent, cet article propose de recentrer le problème de l'interprétabilité de « comment le modèle pense » vers « quel type d'information le modèle traite, et quel est le statut ontologique de cette information », étendant ainsi l'objet de l'interprétabilité du modèle lui-même à l'ensemble de l'écosystème informationnel dans lequel le modèle est inséré – incluant la structure des données d'entraînement, les modes de représentation des connaissances, la circulation de l'information pendant le raisonnement, et les relations de mappage entre la sortie et les systèmes de connaissances externes.
La recherche en interprétabilité représentée par le J-Space a introduit le paradigme des neurosciences dans le domaine de l'intelligence artificielle. Sa contribution est de nous avoir permis d'entrevoir « ce qui se passe à l'intérieur » du modèle. Cependant, l'orientation internaliste de cette approche, sa dépendance aux analogies fonctionnelles et la réduction du concept d'« explication » par la perspective ingénieriale constituent ensemble ses trois limites épistémologiques.
Cet article estime que pour véritablement faire progresser la question de l'interprétabilité des grands modèles de langage, il faut dépasser la fixation sur les états internes du modèle et, à partir d'une perspective épistémologique, examiner systématiquement les bases ontologiques de l'information traitée par le modèle – sa source, sa structure, ses modes de représentation, ses chemins de circulation et ses relations avec les systèmes de connaissances externes. C'est précisément ce changement de perspective qui constitue le point de départ de cette recherche.
Origine ontologique, le socle philosophique de l'interprétabilité
« Les pensées sans contenu sont vides, les intuitions sans concepts sont aveugles ».
Commençons par une ancienne interrogation philosophique : Comment l'être humain comprend-il vraiment le monde ? Kant, dans la « Critique de la raison pure », a donné une réponse classique : il pensait que l'esprit humain ne reçoit pas passivement les stimuli du monde extérieur, mais est doté de manière innée de douze « concepts purs de l'entendement » (les « douze catégories ») comme cadre formel de cognition.
Kant a dérivé ces catégories des douze formes de jugements logiques humains, les classant en quatre groupes : quantité, qualité, relation et modalité. La quantité concerne le « combien », la qualité concerne le « comment est », la relation concerne les liens entre les choses, et la modalité concerne le mode d'existence.
La théorie des catégories de Kant est essentiellement un engagement ontologique concernant « l'intelligibilité » : seules les choses qui peuvent être intégrées dans ce cadre des douze catégories peuvent devenir des objets de connaissance ; ce qui est au-delà du cadre, la « chose en soi », reste à jamais inconnaissable. Cela signifie que l'« ontologie » au sens kantien ne cherche plus à savoir ce que le monde « est en lui-même », mais à savoir « comment le monde nous apparaît ».
L'implication profonde pour l'interprétabilité de l'IA est la suivante : lorsque nous expliquons la sortie d'un modèle de langage, ce qui est véritablement « explicable » n'est pas l'activation physique des neurones internes, mais le processus par lequel l'information est catégorisée et structurée en connaissance intelligible. L'activation neuronale appartient au niveau de la chose en soi, tandis que la signification discursive de la sortie du modèle appartient au niveau phénoménal, et ne peut être comprise et évaluée que lorsqu'elle est placée dans un certain cadre de structure cognitive.
L'ontologie est la « clé » de l'interprétabilité de l'IA. Sur le plan analytique, elle fournit un cadre conceptuel complet pour décrire les formes structurées de l'information traitée par le modèle – nous pouvons nous demander si un énoncé implique implicitement une attribution de « substance et accident », un jugement de « causalité » ou un engagement « modal », permettant ainsi de décrire systématiquement la structure de connaissance que le modèle construit, plutôt que de dire vaguement « le modèle semble comprendre la causalité ».
Sur le plan normatif, elle fournit des critères d'évaluation pour l'interprétabilité : si les représentations internes du modèle forment effectivement des motifs structurés correspondant à l'ontologie, sa sortie possède une base pour être comprise ; si elles ne parviennent jamais à se mapper sur ces ontologies, alors quelle que soit la fluidité de la sortie, elle est, au sens épistémologique, inexplicable.
Utiliser les catégories kantiennes comme clé philosophique de l'interprétabilité ne revient pas à affirmer que le modèle doit « posséder » ces catégories – les catégories de Kant sont des conditions cognitives a priori du sujet, tandis que le modèle est une question de réalisation fonctionnelle ; il peut, par différents chemins de calcul neuronal, différencier de manière fonctionnellement équivalente la substantialité, la causalité ou les différences modales.
L'essentiel est que : l'interprétabilité n'exige pas que le mécanisme interne du modèle soit transparent au point de connaître chaque poids, mais exige que nous puissions confirmer si la structure formée par le modèle au niveau du traitement de l'information se mappe sur le cadre catégoriel que les humains utilisent pour comprendre le monde.
De la théorie à la pratique : la fusion de l'ingénierie ontologique et des grands modèles de langage
L'ontologie fournit une réponse normative sur « à quoi devrait ressembler une structure compréhensible », mais cette réponse ne se transforme pas automatiquement en un système technique exécutable. L'ontologie sans le support de l'ingénierie ontologique n'est qu'un jeu conceptuel suspendu dans les airs.
L'ingénierie ontologique, en tant que domaine pratique qui instancie les catégories philosophiques en entités techniques calculables, maintenables et traçables, constitue le pont indispensable entre la théorie et l'application.
Sur la question de l'interprétabilité de l'intelligence artificielle, la relation entre ontologie et ingénierie ontologique est particulièrement fondamentale : la première nous indique quel type de structure de connaissance nous devons interroger, la seconde est responsable de la construction effective d'une telle structure entre le modèle, les données et le système.
L'émergence des grands modèles de langage a donné à l'ingénierie ontologique une impulsion de développement sans précédent, tout en posant simultanément de nouveaux défis d'ingénierie. La construction ontologique traditionnelle dépend de la participation manuelle d'experts du domaine, le processus est long, coûteux, et s'adapte difficilement au rythme des mises à jour des connaissances et de l'évolution des domaines.
Les grands modèles de langage, grâce à leur capacité à extraire des motifs sémantiques et des associations de connaissances de masses de textes, sont en train de remodeler fondamentalement la forme pratique de l'ingénierie ontologique.
Dans les tâches centrales de l'apprentissage ontologique comme la définition de classes, l'extraction de relations, la construction d'attributs, les modèles de langage peuvent accomplir l'extraction structurée de connaissances à grande échelle avec une efficacité bien supérieure au travail manuel. Plus crucial encore, la sensibilité sémantique que les modèles de langage montrent dans l'identification des relations hiérarchiques, synonymiques et associatives entre concepts fait évoluer la construction ontologique d'une « compilation manuelle par experts » vers une « production en collaboration homme-machine », voire une « construction générative automatique ».
La signification de cette transformation ne réside pas seulement dans l'amélioration de l'efficacité – elle donne à la construction ontologique une extensibilité et une couverture de domaines sans précédent, permettant à des scénarios verticaux et à des domaines de connaissances en évolution rapide, qui n'avaient auparavant qu'un soutien ontologique limité, d'être désormais ouverts.
Simultanément, la rétro-action de l'ingénierie ontologique est tout aussi importante. Bien que puissants, les grands modèles de langage souffrent d'une invisibilité de leur processus de raisonnement, d'une invérifiabilité de leurs sorties et d'une dépendance aux régularités statistiques des données d'entraînement, ce qui constitue ensemble un obstacle fondamental à l'interprétabilité.
Le rôle d'ingénierie que joue l'ontologie ici est multiple : en tant que fournisseur de connaissances structurées, elle offre au modèle une base de connaissances de domaine vérifiée ; en tant que cadre de validation du raisonnement, elle impose des contraintes de cohérence et un calibrage logique aux sorties du modèle ; plus fondamentalement, en tant que structure d'ancrage de l'explication, elle permet que chaque étape du raisonnement du modèle puisse être mappée sur des classes, attributs et relations clairement définis.
Lorsque la sortie d'un modèle peut être retracée jusqu'aux entrées ontologiques sur lesquelles elle s'appuie, l'explication ne dépend plus de suppositions sur l'état interne du réseau neuronal, mais s'établit sur la traçabilité de la structure de connaissance elle-même. C'est précisément la base d'ingénierie pour la transition de l'interprétabilité de la « transparence de la boîte noire » vers la « présentation de la structure de connaissance » – la première fait face à des difficultés techniques insurmontables, tandis que la seconde est un problème d'ingénierie pouvant être conçu, optimisé et vérifié.
Dans cette fusion bidirectionnelle, le « cadre ontologique adapté à l'IA » devient une proposition d'ingénierie clé. L'ontologie traditionnelle est conçue pour des moteurs d'inférence en logique de description, sa syntaxe, ses axiomes et ses mécanismes d'inférence étant optimisés pour la déduction symbolique déterministe ; l'intervention des grands modèles de langage change fondamentalement la forme et les scénarios d'utilisation du consommateur de l'ontologie.
Ce changement exige que les principes de conception ontologique s'ajustent en conséquence – l'ontologie doit converger ses responsabilités, se concentrer sur la définition claire des objets, relations, actions et règles d'un domaine, c'est-à-dire fournir au modèle le « squelette sémantique » sur lequel s'appuie le raisonnement ; tandis que le processus de raisonnement concret – la sélection, la combinaison et l'application des règles – est rendu au pouvoir de généralisation du modèle de langage lui-même.
La répartition des responsabilités apporte des bénéfices d'ingénierie évidents : l'ontologie n'a pas besoin de rechercher une complétude logique et de s'enliser dans la complexité axiomatique, mais prend la simplicité et la maintenabilité comme prémisses, fournissant des coordonnées sémantiques stables à la sortie du modèle.
Dans ce cadre, la construction de l'ontologie doit être optimisée pour l'interface d'appel des grands modèles de langage – ses définitions de classes et descriptions de relations doivent être faciles à comprendre et à utiliser par le modèle, les connaissances structurées faciles à récupérer et à référencer par le modèle, et les règles de contraintes faciles à valider pour le modèle en sortie. Une telle ontologie n'est ni un moteur symbolique remplaçant le raisonnement du modèle, ni une information d'arrière-plan statique uniquement consultable, mais une infrastructure explicative intégrée dans la chaîne de raisonnement, pouvant être appelée et tracée en temps réel.
Le futur de l'interprétabilité, expliquer le modèle vs expliquer l'impact
Cet article prend le J-Space comme point de départ, passe par les fondations philosophiques des douze catégories de Kant, et aboutit finalement à la pratique de la fusion entre les grands modèles de langage et l'ingénierie ontologique, traçant une ligne de pensée allant des neurosciences à l'épistémologie, puis à la mise en œuvre technique.
Le jugement central qui la traverse est : le dilemme de l'interprétabilité des grands modèles de langage ne provient pas seulement de l'invisibilité de leurs mécanismes internes, mais aussi de notre habitude de pensée de longue date qui assimile « explication » à « transparence ». L'écrivain de science-fiction célèbre Stanisław Lem, dans son ouvrage « Solaris », décrit un océan de gelée recouvrant une planète entière, capable de lire la mémoire humaine et de la matérialiser, une métaphore ultime de la « boîte noire de l'IA ».
L'océan peut traiter des informations massives, générer des résultats dépassant les attentes humaines, mais sa logique sous-jacente est complètement indéchiffrable pour l'humain – il n'est ni bienveillant ni malveillant, il suit simplement ses propres lois que l'humain ne peut percer.
Plus pessimiste encore, l'océan finit par rejeter toutes les tentatives humaines de le « dompter » ou de le comprendre, suggérant qu'une limite ultime de la cognition existe peut-être objectivement. Cette image nous avertit précisément : même si nous pouvons observer « à quoi pense » le modèle, nous ne comprendrons pas nécessairement « pourquoi il pense ainsi ».
La véritable difficulté du problème de l'interprétabilité ne réside peut-être pas dans l'insuffisance des moyens techniques, mais dans le rétrécissement du cadre même de la question.
Une voie viable pour percer l'interprétabilité des grands modèles de langage ne doit pas se limiter à la seule direction de tenter « d'ouvrir la boîte noire », mais doit accorder une importance égale, voire plus grande, à l'observation, à la compréhension et au contrôle de la sortie du modèle et de son impact réel.
L'ingénierie ontologique fournit ici un cadre pratique clé : en construisant un squelette sémantique adapté à l'IA, pouvant être appelé et tracé par le modèle, nous pouvons ancrer le raisonnement du modèle sur une structure de connaissance clairement définie, donnant aux classes, attributs et relations sur lesquels repose la sortie une base d'ingénierie pouvant être décrite de manière formelle et vérifiée par traçabilité.
Lorsque chaque affirmation du modèle peut être mappée sur le cadre conceptuel défini par l'ontologie, « expliquer » n'est plus une dissection des poids du réseau neuronal, mais une présentation de la structure de connaissance ; lorsque les fondements de la sortie du modèle peuvent être retracés et validés au niveau ontologique, le « contrôle » n'est plus une intervention forcée sur l'activation interne, mais une gestion normative des chemins de circulation de l'information.
Ce changement de perspective transforme l'interprétabilité d'un défi technique presque impossible en un objectif de gouvernance pouvant être approché continuellement par des moyens d'ingénierie – il nous demande de ne plus nous obstiner à rendre le modèle complètement transparent, mais de nous efforcer de rendre l'impact du modèle dans le monde réel compréhensible, traçable et imputable.
Tongfudun (通付盾) a constamment approfondi ses pratiques sous le cadre conceptuel de l'ingénierie ontologique et de l'interprétabilité discuté dans cet article. Le produit phare de la société, LegionSpace, est précisément construit sur la base de ces concepts techniques. En tant qu'infrastructure d'IA d'entreprise centrée sur l'ontologie, LegionSpace intègre l'information traitée et les connaissances sur lesquelles le modèle s'appuie dans l'ingénierie ontologique formelle, ancrant chaque raisonnement et décision sur une structure de connaissance explicable.
Sa vision est de faire de l'ontologie un langage commun entre l'IA et la compréhension humaine, et de faire de l'interprétabilité une réalité de gouvernance ingénierialisée.
Cet article provient du compte WeChat public « 新智元 », auteur : ASI启示录
