De nos jours, on peut publier un article sur l'ingénierie des prompts à l'ICML ???
Récemment, un internaute a partagé sur Reddit un article venant d'être accepté pour l'ICML 2026. Le post est immédiatement devenu viral, et le nombre de commentaires a explosé.
Mais tout le monde était perplexe : C'est possible ?
Sans proposer de nouvel algorithme d'optimisation, ni avoir entraîné un nouveau grand modèle, les auteurs n'ont fait qu'une chose —
Modifier le Prompt.
L'article propose une méthode appelée Verbalized Sampling (VS) qui, simplement en ajustant l'instruction, permet d'améliorer significativement la diversité des sorties des grands modèles de langage, atténuant ainsi le problème de Mode Collapse (effondrement des modes) qui perturbe depuis longtemps les LLM.
Cela semble présenter une valeur pratique considérable, mais est-il juste qu'une simple astuce de Prompt puisse être acceptée dans une conférence prestigieuse ?
Examinons d'abord l'article avant de juger.
Un article ICML très controversé
Avez-vous déjà eu cette impression que l'IA devient de plus en plus homogène ?
Demandez-lui dix fois de « raconter une blague », les réponses sont souvent très similaires. Et ce n'est pas seulement le cas pour les tâches créatives, mais aussi pour répondre aux questions, générer du code...
Ce phénomène est connu dans le milieu universitaire sous le nom d'effondrement des modes.
En bref, le modèle a tendance à privilégier les réponses classiques, les plus probables et les plus sûres, et à rejeter les idées créatives alternatives.
Par le passé, pour résoudre ce problème, la plupart des chercheurs pensaient d'abord à ajuster les paramètres d'échantillonnage, modifier les algorithmes de décodage, ré-entraîner, etc. Mais cet article prend une voie différente : il demande directement au modèle de sortir également son propre processus d'échantillonnage.
Par exemple, reprenons la blague précédente. Les auteurs modifient l'instruction pour demander au modèle :
Génère 5 blagues, et attribue une valeur de probabilité possible à chaque blague.
Le modèle peut alors produire des réponses plus riches et moins répétitives.
Cela semble très simple, et c'est en fait la contribution principale de cet article — la méthode d'échantillonnage verbalisé des probabilités. Pas besoin de fine-tuning, il suffit de changer la façon de poser la question pour augmenter considérablement la diversité du contenu.
Cependant, dans l'article, les auteurs appuient cette idée par un processus de démonstration rigoureux.
Ils répondent d'abord à la cause fondamentale de l'uniformité des modèles.
Par le passé, le milieu académique attribuait ce problème à des facteurs algorithmiques, comme un modèle de récompense imparfait ou une pénalité KL mal calibrée. Cet article approfondit l'investigation et estime que la véritable racine du problème réside dans les données de préférence elles-mêmes.
Ils proposent le concept de biais de typicalité. Du point de vue de la psychologie cognitive, les annotateurs humains ont une préférence naturelle pour les textes familiers, fluides et conventionnels. Lorsqu'ils attribuent des scores, ils donnent naturellement des notes plus élevées aux réponses stéréotypées et grand public.
Ainsi, même avec un modèle de récompense et un algorithme d'optimisation parfaits, si les données de préférence humaine utilisées pour l'entraînement contiennent un biais de typicalité, le modèle aligné souffrira toujours d'un effondrement des modes.
Pour vérifier cela, les auteurs ont effectué des tests répétés sur cinq ensembles de données de préférence et différents modèles de base, et la conclusion est restée cohérente.
Après avoir compris ce point, les auteurs estiment que puisque le problème est enraciné dans les données d'entraînement, il suffit de concevoir une solution au niveau de l'inférence pour le corriger. Ainsi, en demandant dans le Prompt au modèle de produire une distribution de probabilité complète, on peut réveiller la distribution de sortie plurielle que le modèle possédait originellement pendant la phase de pré-entraînement, et retrouver la diversité.
Il ne restait plus qu'à tester cette méthode dans divers scénarios. Les résultats montrent que dans les tâches d'écriture créative, la diversité est 1,6 à 2,1 fois supérieure à celle d'un prompt standard, sans pour autant réduire la précision factuelle du contenu ou le niveau de sécurité du modèle.
De plus, plus le modèle est puissant et plus son nombre de paramètres est élevé, plus l'amélioration de la diversité apportée par la VS est importante.
Ainsi, même si la méthode proposée dans cet article est finalement simple, l'ICML l'a tout de même acceptée.
La polémique fait rage sur Reddit
Mais sous le post original, les avis sur cet article sont partagés.
De nombreux internautes estiment qu'auparavant, l'ICML était réservée à des innovations techniques comme de nouveaux modèles, algorithmes ou théories. Se concentrer uniquement sur le Prompt et l'optimisation du processus d'inférence ne correspond pas à une recherche sérieuse en apprentissage automatique.
En comparaison, l'innovation de ce travail semble un peu légère et présente plusieurs problèmes :
Premièrement, des méthodes similaires d'écriture d'instructions ne sont pas uniques, certains affirmant même qu'ils écrivaient déjà leurs prompts de cette façon hier. Deuxièmement, la théorie n'est pas facile à vérifier, car un prompt peut devenir inefficace avec un autre modèle, contrairement à un algorithme plus stable. Troisièmement, l'échelle expérimentale est limitée, ce qui ne suffit pas à prouver qu'il s'agit d'une règle universelle.
Certains internautes comparent même la situation actuelle dans le domaine de l'apprentissage automatique à la crise académique qu'a traversée le milieu de la psychologie il y a une dizaine d'années.
À l'époque, de nombreux chercheurs avaient une faible base en statistiques et abusaient des outils statistiques, conduisant à des conclusions non reproductibles dans de nombreux articles et à une grave crise de confiance dans le secteur. Aujourd'hui, l'industrie de l'apprentissage automatique est aussi fortement dépendante des expériences empiriques et néglige souvent un soutien théorique rigoureux.
La concurrence interne pousse à la course aux nouvelles méthodes, mais il existe une tendance généralisée au surajustement des paramètres et à l'amélioration artificielle des scores sur des benchmarks. Beaucoup de prétendues innovations algorithmiques n'ont pratiquement aucune valeur pratique par rapport aux modèles de référence matures, et sont présentées comme des résultats innovants sur la base d'améliorations minimes d'indicateurs.
En substance, ces problèmes de publication d'articles sont dus au manque de clarté des normes professionnelles suite à l'expansion rapide de la discipline.
Mais les partisans estiment que la recherche scientifique ne consiste pas à comparer la complexité des méthodes. Tant que l'hypothèse est claire, les expériences sont suffisantes et les résultats sont stables et reproductibles, cela peut très bien constituer une recherche de qualité.
Par exemple, cet article explique clairement ce qu'est l'effondrement des modes et avance que le véritable problème réside dans le biais de typicalité des préférences. Ce point de vue est plus important que le Prompt lui-même.
L'un des auteurs a lui-même répondu dans les commentaires, indiquant que cet article, bien qu'apparemment simple, impliquait en réalité un processus de traitement très complexe.
L'ensemble du travail comprend une analyse complète de la source du problème, une nouvelle attribution théorique, une dérivation mathématique, des expériences quantitatives multidimensionnelles, ce n'est pas un travail superficiel de réglage de prompt.
Beaucoup ont également mentionné le CoT (Chain-of-Thought). Lorsque le CoT est apparu pour la première fois, il s'agissait essentiellement d'une simple instruction :
Réfléchissons étape par étape.
Mais aujourd'hui, presque toutes les méthodes de raisonnement peuvent être rattachées au CoT. Cela montre précisément que l'ingénierie des prompts n'est plus simplement l'écriture d'instructions ; elle devient une nouvelle méthode pour étudier le comportement des modèles.
Au cours des dix dernières années, la recherche en apprentissage automatique s'est principalement concentrée sur l'entraînement. Mais aujourd'hui, certaines techniques d'utilisation au stade de l'inférence commencent également à occuper une place centrale dans la recherche en apprentissage automatique.
Peut-être que dans les prochaines années, nous verrons de plus en plus d'articles de ce type. Ils n'ajoutent pas une seule ligne de code d'entraînement ni un seul paramètre de modèle, mais peuvent néanmoins repousser les limites des capacités des grands modèles.
Présentation de l'équipe de recherche
Enfin, jetons un coup d'œil à l'équipe de recherche.
Ce travail est le fruit d'une collaboration entre l'équipe de Weiyan Shi de la Northeastern University, le Manning Lab de Stanford et l'Université de Virginie-Occidentale. Jiayi Zhang, Simon Yu et Derek Chong sont les premiers auteurs conjoints.
Jiayi Zhang a obtenu son bachelor à l'Université du Michigan avec un triple diplôme en informatique, mathématiques et linguistique, puis a poursuivi un master en informatique à la Northeastern University.
Un autre de ses articles, accepté à la conférence NLP de premier plan NAACL 2024, intitulé « Analyzing the Role of Semantic Representations in the Era of Large Language Models », s'intéresse également aux représentations sémantiques et aux grands modèles de langage.
Simon Yu prépare actuellement un doctorat à la Northeastern University. Ses recherches portent principalement sur les mécanismes d'alignement et d'apprentissage par renforcement dans les grands modèles. Il a obtenu son master et son bachelor à l'Université d'Édimbourg et a publié plusieurs articles dans des conférences de premier plan.
En plus de cet article, un autre de ses articles, « Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents », a également été accepté pour l'ICML 2026.
Derek Chong est diplômé d'un master de l'Université de Stanford et est actuellement chercheur au Stanford Artificial Intelligence Laboratory. Ses recherches se concentrent principalement sur les grands modèles de langage et le NLP.
Il a trois ans d'expérience en tant que fondateur de startup et a travaillé en tant que scientifique appliqué chez Ello, participant au développement et à la mise en œuvre de l'IA dans l'industrie. Il possède donc à la fois des bases théoriques solides et une riche expérience pratique sur le terrain.
Références :[1]https://www.reddit.com/r/MachineLearning/comments/1uv1xb3/promptengineering_paper_accepted_to_icml_r/
[2]https://www.linkedin.com/in/jiayizx/[3]https://simonucl.github.io/[4]https://www.linkedin.com/in/derekch/
Cet article provient du compte WeChat « 量子位 » (Qubit), auteur : 关注前沿科技 (Suivre les technologies de pointe)
