Ouvrir le cerveau de Claude ne sert à rien, la vraie clé de la boîte noire de l'IA se trouve dans l'ingénierie ontologique
« L'essence de l'explication ne réside pas dans l'observation de la machine elle-même, mais dans l'examen du monde que la machine observe. »
L'article critique la limite des approches d'explicabilité de l'IA comme J-Space d'Anthropic, qui se concentrent sur l'observation des états internes des modèles de langage. Cette perspective « internaliste », analogue à une IRM cérébrale, peut révéler des corrélations neuronales mais échoue à saisir le *sens* des sorties du modèle – leur relation avec le monde, les connaissances et les pratiques humaines.
L'argument central est que la clé de l'explicabilité réside non pas dans la « boîte noire » du modèle, mais dans une analyse « ontologique » des informations qu'il traite. L'auteur s'inspire de la philosophie kantienne, suggérant que la compréhension émerge lorsque l'information est structurée selon des cadres catégoriels (comme la substance, la causalité, la modalité).
Pour opérationnaliser cela, l'article promeut l'**ingénierie ontologique**. Il s'agit de construire des squelettes sémantiques formels (ontologies) décrivant les concepts, relations et règles d'un domaine. En ancrant les raisonnements des grands modèles de langage à de telles structures de connaissances vérifiables et traçables, l'explication cesse d'être une dissection des poids neuronaux pour devenir une démonstration des fondements informationnels utilisés.
Ainsi, le futur de l'explicabilité ne dépendrait pas d'une transparence interne impossible, mais de la capacité à rendre l'impact et les raisonnements des modèles compréhensibles et responsables via leur alignement sur des ontologies exploitables, transformant un défi technique en un objectif de gouvernance réalisable par l'ingénierie.
marsbit07/17 07:45
