Du « jeton lexical » au « jeton symbolique » : La bataille sous-jacente de la cognition en IA derrière le nom chinois de Token

L'article mentionne que le terme « token » trouve son origine dans le vieil anglais tācen, signifiant « symbole » ou « marque ». Dans les modèles de langage, un token est la plus petite unité discrète obtenue après segmentation du texte ou encodage au niveau des octets, pouvant se manifester sous différentes formes telles qu'un mot, un sous-mot, un affixe ou un caractère. C'est en modélisant des séquences de tokens que le modèle démontre une certaine capacité intelligente.

Cette traduction est considérée, dans le système d'argumentation des experts, comme conforme aux principes d'univocité, de scientificité, de concision et de coordination, et elle possède également une certaine base d'utilisation dans le contexte linguistique chinois actuel. Cependant, après avoir lu les interprétations connexes, j'ai développé une compréhension différente de cette approche de dénomination.

D'un point de vue normatif, ce projet de dénomination présente des avantages à court terme en termes de compréhensibilité et de diffusion. Mais si on l'examine sous les dimensions de l'ontologie computationnelle, de la structure informationnelle, de l'évolution multimodale et de la cohérence de la rétrotraduction, son adéquation à long terme reste à vérifier plus avant. Dans ce contexte, une alternative qui mérite également l'attention – « 符元 » (fúyuán, jeton symbolique/unité symbolique) – révèle progressivement une plus grande cohérence structurelle et une stabilité transcontextuelle.

I. Le décalage définitionnel : On ne peut pas substituer l'« origine » à l'« essence »

Point de vue de l'article (Chen Xilin, chercheur à l'Institut de technologie informatique de l'Académie chinoise des sciences) : Le rôle initial de Token dans l'intelligence artificielle était celui d'« unité sémantique de base du langage », donc « 词元 » (unité lexicale) correspondrait mieux à son essence.

Ce jugement est raisonnable dans le contexte historique, mais à l'ère actuelle de grands bonds en avant des paradigmes technologiques, cette façon de penser est essentiellement une « fixation académique sur le passé révolu ».

Au niveau logique de la définition des termes, il est impératif de distinguer strictement le « contexte d'application initial » de l'« attribut structurel essentiel ».

Le Token est bien né dans le traitement du langage naturel (NLP), mais dans l'évolution vers l'AGI, il a depuis longtemps dépassé les frontières des modèles de langage pour devenir l'unité de base traitant de manière unifiée le texte, l'image, la parole et même les signaux physiques. Dans les systèmes informatiques modernes, la véritable ontologie structurelle du Token est « l'unité symbolique discrète », et non une unité linguistique unimodale.

Si l'on devait se baser sur le « rôle initial » pour le nommer, l'ordinateur (Computer) devrait encore s'appeler « calculateur électronique » (car il remplaçait initialement les calculateurs humains) ; Internet devrait s'appeler « réseau militaire de la Guerre froide ». Le défaut fatal de cette logique de dénomination est qu'elle ne voit que le « travail temporaire » de la technologie à un moment historique spécifique, tout en ignorant son « essence physique » transcendante.

Le cheminement historique ne peut être équivalent à l'attribut essentiel. De même, nous ne pouvons pas verrouiller définitivement Token dans le contexte étroit du « mot » simplement parce qu'il a d'abord été utilisé pour traiter du texte.

Utiliser le « contexte d'application initial » pour définir un concept fondamental, c'est essentiellement substituer la dépendance au chemin historique à la vérité ontologique structurelle. Cette définition peut offrir une commodité de compréhension aux premiers stades de la technologie, mais dans la phase d'expansion paradigmatique de l'explosion multimodale, elle devient rapidement obsolète et constitue une entrave à la cognition. En comparaison, « 符元 » (jeton symbolique) s'aligne directement sur l'ontologie symbolique du calcul multimodal ; il ne définit pas le « passé » de Token, mais sa « vérité ».

II. Les limites de l'analogie : Lorsque l'explication devient définition, elle commence à dévier

Point de vue de l'article (Dong Yuxiao, professeur associé au Département d'informatique de l'Université Tsinghua) : On peut comprendre les unités discrètes multimodales comme des « mots au sens large » par analogie avec « nuage de mots », « sac de mots », etc.

L'analogie du professeur Dong Yuxiao facilite la compréhension, mais ne devrait pas remplacer la définition. Cette approche est instructive au niveau explicatif, mais si elle est élevée au rang de base de dénomination, elle risque d'induire une erreur de catégorie au niveau conceptuel.

D'un point de vue méthodologique, le rôle de l'analogie est de réduire le seuil de compréhension, tandis que la responsabilité de la définition est de délimiter les frontières sémantiques. Lorsque le « mot » est étendu pour couvrir des patches d'images, des segments vocaux, des représentations vectorielles (embedding) ou des signaux perceptifs plus larges, ses attributs linguistiques originels sont constamment dilués et ses frontières sémantiques deviennent floues. Cette voie d'expansion pilotée par l'« analogie » peut maintenir une cohérence explicative à court terme, mais à long terme, elle facilite la dérive sémantique.

En matière de capacité d'extension multimodale, il faut se méfier du glissement de l'« analogie » vers la « définition ». Dans le contexte de l'examen terminologique, il est nécessaire de distinguer la frontière entre la « métaphore explicative » et la « définition ontologique », en évitant que la première ne se substitue à la seconde.

Une comparaison plus直观的 (intuitive) est la suivante : dans un contexte de vulgarisation scientifique, nous pouvons comparer une ampoule à un « soleil artificiel » pour renforcer la compréhension intuitive ; mais dans le système de dénomination scientifique, il est impossible de rebaptiser l'unité de courant électrique « ampère » en « unité de lumière » sur cette base. Le premier relève de l'expression descriptive, le second implique un système de mesure et une définition standardisés stricts ; les deux ne peuvent être confondus.

De même, les termes « nuage de mots », « sac de mots » sont essentiellement des métaphores descriptives ou statistiques, dont la fonction est d'aider à comprendre la structure des données ou leur distribution ; tandis que Token, en tant qu'unité de mesure de base dans les grands modèles, est profondément intégré dans les systèmes de facturation de la puissance de calcul, d'entraînement des modèles et de mesure académique. Lorsque son volume d'utilisation atteint des appels quotidiens de dizaines de milliards à billions, sa dénomination ne porte plus seulement une fonction explicative, mais représente un concept fondamental ayant une signification technique et normative. À ce niveau, la terminologie doit davantage s'aligner sur ses attributs ontologiques, plutôt que de dépendre d'extensions analogiques.

Si l'on pousse cette logique analogique plus loin vers le niveau de la dénomination, cela implique en fait une prémisse dangereuse : puisque les gens sont habitués à comprendre Token par le « mot », continuons à utiliser cette analogie. Mais c'est en fait une perpétuation de la dépendance au chemin – substituer la commodité de la cognition existante à la correction de l'ontologie conceptuelle. En ce sens, cette dénomination relève plus d'un « romantisme linguistique » que d'un alignement strict sur l'ontologie computationnelle.

Nous ne pouvons pas exiger de parler de « cheval électronique » dans les moteurs électriques simplement parce que la « puissance » (cheval-vapeur) contient le mot « cheval ». L'analogie peut éclairer la compréhension, mais ne peut définir la norme.

En comparaison, « 符 » (symbole) en tant que concept plus neutre, possède naturellement une capacité d'adaptation multimodale, pouvant couvrir diverses formes d'information comme le texte, l'image, la parole, etc., sans nécessiter d'explication supplémentaire. Par conséquent, la voie de dénomination centrée sur l'« unité symbolique » est plus proche de l'essence structurelle de Token au niveau définitionnel. Dans cette logique, « 符元 » (jeton symbolique) en tant que traduction correspondante, présente une plus grande cohérence conceptuelle et une meilleure adéquation à long terme.

III. Le coût cognitif : Quand l'ancre sémantique crée des malentendus systémiques

Point de vue de l'article (Synthèse des opinions d'experts) : « 词元 » (unité lexicale) est concis, conforme aux habitudes chinoises et facile à diffuser.

Ce jugement est raisonnable au niveau de la diffusion, mais sa prémisse implicite est que le public peut accepter l'analogie multimodale du « mot ». Cependant, l'analogie est essentiellement un outil de pensée expert, et non un mode de cognition naturelle pour le grand public. Pour l'utilisateur ordinaire, le « mot » a un effet d'ancrage sémantique très fort – dès qu'il entend « mot », son intuition pointe nécessairement vers le système linguistique, et non vers d'autres modalités comme l'image, le son ou l'action. Ce cheminement cognitif n'est pas un problème technique, mais une structure stable au niveau de la psychologie cognitive.

Sur cette base, lorsque le « mot » est étendu à ce qu'on appelle le « mot au sens large », cela crée en réalité un biais dans la cognition de l'utilisateur. L'utilisateur forme d'abord une compréhension intuitive « mot = unité linguistique », et non le concept abstrait d'« unité symbolique multimodale ». Une fois ce malentendu établi, toutes les explications ultérieures deviennent des corrections de la cognition existante, et non une extension de la compréhension naturelle.

Par exemple, lorsque les médias rapportent qu'« un modèle a été entraîné avec 10 billions de 词元 », le public comprendra facilement qu'il a « lu une énorme quantité de texte », en omettant les vastes quantités de données d'image, de parole et d'autres modalités contenues. Ce malentendu n'est pas isolé, mais est induit systémiquement par l'ancrage sémantique du terme lui-même.

Dans le contexte technique pratique, cette dénomination peut également créer des frictions dans la communication interdisciplinaire. Lorsque les unités discrètes des modèles visuels ou vocaux sont appelées « mots », cela peut non seulement induire des malentendus sémantiques, mais aussi créer des conflits linguistiques inutiles entre différents domaines. Les systèmes multimodaux nécessitent une unification au « niveau symbolique », et non une extension des catégories linguistiques.

En comparaison, « 符 » (symbole) en tant que concept plus abstrait, bien que présentant un seuil de compréhension initial légèrement plus élevé, a une orientation sémantique plus neutre, ne verrouillant pas préalablement la cognition au niveau linguistique. À long terme, il est plus favorable à l'établissement d'un cadre cognitif stable et unifié, réduisant ainsi le coût explicatif global et fournissant une base cognitive plus stable pour l'unification multimodale.

Le coût de la dénomination ne se produit pas au moment de la définition, mais au moment de la correction ; une fois que l'ancrage sémantique est formé par une dénomination précoce, le coût de la réparation cognitive ultérieure augmente de façon exponentielle.

Les experts peuvent étendre les frontières du « mot » par analogie, mais le grand public ne comprendra pas les concepts par analogie. La dénomination ne sert pas les experts, mais est responsable du système cognitif de toute une époque.

IV. L'illusion de l'univocité : Quand un mot tente de porter deux systèmes

Point de vue de l'article (Principe d'examen terminologique) : « 词元 » (unité lexicale) respecte le principe d'univocité et aide à résoudre le problème de la confusion des traductions.

En matière d'univocité terminologique, une attention particulière doit être portée au risque systémique potentiel lié à la « polysémie ». Dans l'examen des termes scientifiques, l'« univocité » est l'un des principes fondamentaux. Si un terme nécessite de dépendre du contexte ou d'explications supplémentaires pour distinguer sa signification, sa valeur en tant que pièce standard est déjà perdue.

Cependant, au vu du système académique existant, ce jugement mérite une discussion plus approfondie. Le terme « 词元 » (unité lexicale) est déjà « pris » depuis longtemps dans les domaines de la linguistique et du traitement automatique des langues (TAL), où il correspond classiquement au concept anglais de Lemma, c'est-à-dire la forme canonique d'un mot (par exemple, le lemme de is/am/are est be). Cet usage a formé un consensus stable dans les manuels de base de linguistique et de TAL ainsi que dans les articles académiques.

Dans ce contexte, si Token est également traduit par « 词元 », des conflits sémantiques peuvent facilement survenir dans des expressions spécifiques, créant des situations désastreuses.

Par exemple, pour décrire « l'opération de lemmatisation en TAL (lemmatize a token) », l'expression chinoise deviendrait « effectuer une 'lemmatisation' sur un '词元' ». Cette expression n'augmente pas seulement le coût de compréhension, mais introduit aussi une ambiguïté dans la rédaction académique et la recherche d'information, rendant difficile pour le lecteur de distinguer si « 词元 » désigne l'unité discrète segmentée ou la forme canonique du mot.

D'un point de vue fonctionnel conceptuel, il existe également une distinction claire entre les deux : Lemma souligne la « réduction » au niveau linguistique, correspondant à l'expression canonique après les variations morphologiques ; tandis que Token souligne la « segmentation » dans le processus computationnel, correspondant à la plus petite unité discrète lors du traitement de l'information par le modèle. Cette différence entre « réduction » et « segmentation » correspond précisément à des dimensions différentes, sémantique et symbolique.

Par conséquent, lorsqu'un terme a besoin d'être « généralisé » pour couvrir simultanément plusieurs concepts existants, son univocité se transforme en réalité en une « unification au niveau explicatif », et non en une « stabilité au niveau sémantique ».

Lorsqu'un terme a besoin d'explications pour maintenir son uniformité, sa stabilité en tant que terme standard commence souvent à vaciller.

En comparaison, « 符元 » (jeton symbolique) ne présente pas de conflit sémantique dans le système terminologique existant. D'une part, il conserve l'attribut ontologique de Token en tant que symbole discret ; d'autre part, il évite le chevauchement avec la traduction existante de Lemma, démontrant ainsi une stabilité plus élevée en termes de clarté sémantique et de cohérence systémique.

V. Le retour à l'ontologie : Token est essentiellement un « symbole », pas un « mot »

Point de vue de l'article (Explication générale) : Token est la plus petite unité utilisée dans les modèles de langage pour traiter le texte.

Cette affirmation est valable au niveau fonctionnel, mais elle se situe encore au niveau du « comment l'utiliser », sans toucher à son attribut ontologique dans la théorie computationnelle. Du point de vue de la théorie de l'information et de la théorie computationnelle, les objets de base traités par un système informatique ne sont pas des « mots », mais des « symboles ».

Ce point peut être compris à deux niveaux :

D'une part, sous l'angle de la théorie de l'information, l'essence de l'information réside dans la réduction de l'incertitude, son unité de mesure est le bit, et son support physique est le symbole discret. Le symbole ne se soucie pas du contenu sémantique, mais seulement de la distribution de probabilité et de la structure d'encodage.

D'autre part, au niveau de l'implémentation computationnelle, la couche basse des grands modèles ne « lit » pas les mots ; ses objets de traitement sont des représentations d'index (ID) discrets. Que cet ID corresponde à un sinogramme, un patch d'image ou un point d'échantillonnage audio, il participe aux calculs sous une forme symbolique unifiée.

Dans ce cadre, c'est précisément parce que son essence réside au « niveau symbolique », et non au « niveau sémantique ». Le symbole lui-même ne porte pas de sémantique, mais existe en tant que support de base pour l'encodage et le calcul.

Nommer Token « 词元 » (unité lexicale) introduit dans une certaine mesure une orientation implicite au niveau sémantique linguistique, ramenant ce concept originellement au niveau symbolique dans un chemin de compréhension centré sur le langage. Cette approche de dénomination peut offrir une intuitivité au niveau explicatif, mais au niveau théorique, elle tend à brouiller la frontière entre le « calcul symbolique » et la « compréhension sémantique ».

En comparaison, « 符元 » (jeton symbolique) se maintient conceptuellement au niveau symbolique. D'une part, il reflète avec précision l'attribut computationnel de Token en tant que symbole discret ; d'autre part, il évite d'introduire des caractéristiques sémantiques dans la définition ontologique, se conformant ainsi davantage au cadre de base de la théorie de l'information et de la théorie computationnelle.

D'un point de vue plus large, alors que les systèmes d'intelligence artificielle évoluent constamment vers le multimodal et l'intelligence générale, si la dénomination des concepts de base peut s'aligner directement sur leur ontologie mathématique et computationnelle, elle contribuera davantage à construire un système cognitif stable et extensible. En ce sens, la voie de dénomination centrée sur l'« unité symbolique » n'est pas seulement une question de choix linguistique, mais aussi une expression de cohérence avec l'essence du calcul, et « 符元 » en est la correspondance naturelle dans ce cadre.

Définir un concept à partir du niveau symbolique, c'est s'aligner sur l'essence du calcul ; nommer un concept à partir du niveau sémantique, c'est se rapprocher davantage de l'explication que de la définition.

VI. La rupture linguistique : L'échec de la cartographie dans le mécanisme de rétrotraduction

Point de vue de l'article (Synthèse des interprétations) : « 词元 » (unité lexicale) a progressivement formé une base d'utilisation dans le milieu universitaire chinois et présente certains avantages en matière de diffusion.

Dans un contexte interlinguistique, il faut se méfier de l'impact systémique de la « rupture de rétrotraduction » terminologique. Mesurer la viabilité à long terme d'un terme technique ne dépend pas seulement de sa capacité à exprimer le sens dans le contexte chinois, mais aussi de sa capacité à réaliser une cartographie stable dans le système académique international. Le terme idéal devrait être « réversible », c'est-à-dire capable d'assurer un aller-retour sémantique cohérent entre différentes langues.

Le jugement ci-dessus reflète l'acceptabilité de « 词元 » dans le contexte local, mais d'un point de vue interlinguistique, il y a encore matière à discussion. Si un terme n'est valable que dans un seul système linguistique et ne peut pas former une relation de correspondance stable dans le contexte international, il peut introduire des coûts de compréhension supplémentaires dans les échanges académiques.

Concrètement, « 词元 » manque d'un chemin de correspondance clair et unique lors du processus de rétrotraduction. Lorsqu'il est retraduit en anglais, il crée souvent des divergences entre plusieurs concepts approximatifs : par exemple, « word unit » manque de définition académique stricte, « morpheme » correspond au morphème en linguistique, « lexeme » désigne le lexème. Aucun de ces concepts ne couvre avec précision la signification de Token dans le contexte computationnel, et ils introduisent plutôt un décalage de catégorie.

En comparaison, « 符元 » peut correspondre assez naturellement à « symbolic unit » (unité symbolique). Ce concept possède des bases théoriques claires et un usage stable dans des domaines tels que la théorie de l'information, les mathématiques discrètes et la représentation multimodale, et peut maintenir une orientation sémantique cohérente dans différents contextes. Par conséquent, il est plus facile d'établir une relation de correspondance un-à-un entre le chinois et l'anglais.

D'un point de vue pratique, une fois qu'un terme entre dans des scénarios d'articles académiques, de documentation technique et d'échanges internationaux, sa capacité de rétrotraduction affecte directement l'efficacité de l'expression et la précision de la compréhension. Si un terme nécessite des explications supplémentaires pour effectuer une conversion interlangue, son coût d'utilisation à long terme s'accumulera continuellement.

Par conséquent, dans le système interlinguistique, le principal problème auquel est confronté « 词元 » réside dans l'instabilité de son chemin de cartographie, tandis que « 符元 » présente une plus grande certitude en termes de correspondance sémantique et de cohérence conceptuelle. Dans le contexte de la mondialisation croissante de l'intelligence artificielle, choisir un terme possédant de bonnes caractéristiques de rétrotraduction sera plus favorable à la construction d'un système académique et technique ouvert et interopérable.

La réversibilité internationale d'un terme est essentiellement l'étalon clé de sa viabilité académique à long terme.

VII. L'erreur d'unification : L'uniformité formelle n'égale pas la cohérence structurelle

Point de vue de l'article (Synthèse des opinions d'experts) : Le style d'expression de « 词元 » (unité lexicale) est cohérent avec des termes comme « 嵌入 » (embedding, plongement) et « 注意力 » (attention, attention), concis, abstrait, et conforme au contexte technique chinois.

Conclusion préalable : L'unification du système terminologique devrait être basée sur une « isomorphie conceptuelle », et non sur une « homogénéité linguistique ».

Dans les arguments en faveur de « 词元 », une raison souvent avancée est que son style d'expression est cohérent avec des termes comme « 嵌入 » (embedding) et « 注意力 » (attention), concis, abstrait, et conforme au contexte technique chinois. Cette raison saisit le besoin réel d'uniformité du système terminologique, mais le problème est le suivant – si l'unification reste seulement au niveau linguistique et non au niveau structurel, elle glissera de l'« ordre » vers l'« illusion ».

« 嵌入 » (embedding) et « 注意力 » (attention) sont devenus des termes stables parce qu'ils correspondent à des structures computationnelles claires : le premier est un mapping vectoriel, le second un mécanisme de pondération ; leur dénomination pointe directement vers l'essence du calcul. Alors que « 词元 » relève d'une dénomination explicative, dont la rationalité dépend du cadre analogique du « mot généralisé ». Une fois privée d'explication, cette dénomination en elle-même ne possède pas d'orientation structurelle autonome.

Cette différence soulève un problème clé : uniformité formelle, décalage sémantique.

La première réduit le coût de l'expression, la seconde garantit la stabilité cognitive. Si l'on recherche prioritairement l'« homogénéité linguistique », la complexité ne disparaît pas, mais se transforme en une charge cognitive à long terme ; seule une dénomination basée sur l'« isomorphie conceptuelle » peut maintenir sa stabilité dans l'évolution transcontextuelle et multimodale.

Lorsque « 嵌入 » (embedding), « 注意力 » (attention) et « 词元 » (unité lexicale) apparaissent côte à côte, ils créent facilement l'illusion d'une « couche conceptuelle commune ». Mais en réalité, les deux premiers sont des mécanismes, le dernier est un objet ; les deux premiers ont des définitions strictes, le dernier dépend d'explications contextuelles. Ce désalignement structurel enterre une rupture latente dans le système cognitif.

Plus important encore, lorsque la dénomination d'un concept fondamental dépend de l'analogie plutôt que de la définition structurelle, son impact ne reste pas confiné à un seul terme, mais se diffuse à travers tout le système terminologique. Lorsque des concepts ultérieurs tentent de se développer autour de cette dénomination, ils devront constamment maintenir la cohérence par des explications, créant ainsi un désalignement structurel latent.

En ce sens, « 符元 » (jeton symbolique) offre un chemin d'expression plus proche de la structure sous-jacente. Il pointe directement vers l'objet de base du système computationnel – le symbole –, sans avoir besoin de s'appuyer sur des explications analogiques, et peut maintenir sa cohérence dans différents contextes.

La terminologie n'est pas qu'une étiquette, mais une entrée vers la cognition. Une bonne terminologie fait disparaître progressivement les explications, une mauvaise terminologie ne fait qu'ajouter des annotations. Lorsque les concepts de base s'écartent de la structure, le système terminologique ne peut compter que sur des explications pour se maintenir, et non sur une définition autonome.

Conclusion

Essentiellement, le choix terminologique n'est pas seulement une question linguistique, mais aussi un modelage précoce de la structure cognitive d'un domaine. Une fois que la dénomination s'écarte de son ontologie structurelle dès la phase initiale, le système ultérieur ne peut maintenir son fonctionnement que par des explications constantes, et peine à former un réseau conceptuel autonome.

Alors que l'intelligence artificielle évolue vers la généralisation et la fusion multimodale, un terme capable de s'aligner sur l'ontologie computationnelle et de posséder une stabilité transcontextuelle aura plus de chances de devenir une pierre angulaire cognitive efficace à long terme. En ce sens, la voie de dénomination centrée sur l'« unité symbolique » présente une adaptabilité plus équilibrée, conciliant l'essence technique et la clarté cognitive.