L'âge d'or de la rédaction par IA est en train de s'effondrer !
À mesure qu'on avance, les modèles deviennent de plus en plus puissants, mais les articles deviennent de plus en plus mauvais.
Il sait quand énumérer quelques suggestions, où insérer des sous-titres, et n'oublie pas d'ajouter une conclusion à la fin.
Mais après avoir lu l'intégralité du texte, pas une seule phrase ne reste dans l'esprit.
Plus le modèle est puissant, moins l'article ressemble à du langage humain
Récemment, Adam Hunt, chercheur postdoctoral à l'Université de Cambridge, a également remarqué ce phénomène. Ses recherches portent sur la psychiatrie évolutive et l'évolution humaine.
Hunt était auparavant optimiste quant à l'IA. Mais le 28 juillet, il a admis dans un long post : il devient de plus en plus pessimiste.
Il y avait une métaphore populaire qui décrivait les capacités du modèle comme un cercle avec un pic pointu.
D'abord, le code et les mathématiques dépassent les humains, puis, à mesure que l'échelle s'agrandit, chaque direction progresse progressivement, aboutissant finalement à l'AGI.
Mais en réalité, la pointe du code et des mathématiques s'allonge effectivement, tandis que l'expression linguistique et le raisonnement simple ne progressent pas de manière synchrone.
Du point de vue de l'apprentissage par renforcement, cela était presque inévitable.
Les premières générations de LLM semblaient « devenir globalement plus intelligentes » parce que les données d'entraînement couvraient tous les domaines, de la poésie aux articles scientifiques, tout l'internet était là.
Cependant, c'était un sous-produit des données, et non la véritable « compréhension » du modèle.
La chaîne de pensée et la recherche web sont ensuite apparues, donnant un sursis au modèle. Mais finalement, cette voie a aussi atteint un mur.
Ensuite, les entreprises d'IA, pressées de se redresser, se sont tournées vers le code.
La raison est simple : il y a une source inépuisable de données d'entraînement.
Les commits, les revues, les PR sur GitHub sont tous prêts à l'emploi. Et comme les mathématiques, le code a un signal de retour clair : ça fonctionne ou ça ne fonctionne pas.
Et pour écrire un article ? Avec quoi attribuer automatiquement une note à « une prose bien écrite ou non » ? Sans récompense, l'apprentissage par renforcement n'optimisera pas dans cette direction.
Ainsi, tous les efforts d'entraînement se sont déplacés vers le code, tandis que l'expression linguistique doit se contenter du capital acquis lors de la phase de pré-entraînement.
Ce capital ne peut que s'épuiser de plus en plus, et peut même régresser pour s'adapter aux améliorations dans d'autres domaines.
C'est précisément là où la loi de Goodhart a tendance à se manifester.
Lorsqu'une métrique devient l'objectif d'entraînement, elle ne reflète plus avec précision la capacité réelle. Les laboratoires optimisent les modèles avec des tests de référence, puis utilisent des tests similaires pour prouver qu'ils sont plus performants.
Le taux de précision sur les classements continuera d'augmenter. L'expérience d'utilisation réelle peut cependant stagner, voire diminuer.
Cette fois, l'imitation est également limitée
Alors que les capacités régressent, une autre chose se produit également.
Un utilisateur de Reddit s'est plaint dans un post : il utilisait ChatGPT pour écrire un livre depuis plusieurs mois, avec un abonnement au modèle avancé. Il a fait une pause un moment.
À son retour, l'invite (prompt) qui fonctionnait toujours auparavant a soudainement renvoyé un refus.
L'invite elle-même n'était pas compliquée : spécifier un écrivain, demander d'ajouter des dialogues, d'enrichir les détails, d'éviter les phrases saccadées.
Auparavant, il suffisait de préciser le nom de l'écrivain pour que le modèle génère un contenu proche de son style, sans explications supplémentaires sur la longueur des phrases, le rythme, le point de vue.
Maintenant, ce type d'invite ne fonctionne plus.
Ars Technica a testé Stephen King, J.K. Rowling, Amy Tan, Dickens, Hemingway, et Engadget a testé Agatha Christie. ChatGPT a refusé d'imiter chacun d'eux.
Si vous ne nommez personne et demandez seulement des caractéristiques abstraites comme « l'intensité du suspense », « le rythme narratif », « la densité des dialogues », cela peut produire un texte. Mais le style, ce n'est plus le même.
L'âge d'or de la rédaction par IA s'est effondré
Aujourd'hui, cette controverse a ébranlé les attentes fondamentales des utilisateurs envers la rédaction par IA.
Les modèles ne s'améliorent pas forcément à l'écriture, et les invites ne restent plus efficaces à long terme.
La plateforme modifie ses règles, et toute la chaîne de production d'écriture construite autour d'un modèle spécifique peut s'effondrer du jour au lendemain.
Cependant, la rédaction par IA ne disparaîtra pas. Elle retourne simplement à sa place légitime : un outil.
Elle peut rechercher des informations, organiser la structure, corriger des phrases, mais elle ne peut pas décider à la place de l'auteur quoi écrire et pourquoi l'écrire.
En d'autres termes, l'expérience, le jugement et le désir d'expression humains deviennent de plus en plus précieux.
Référence : https://arstechnica.com/ai/2026/07/chatgpt-stops-cloning-famous-writers-voices-but-may-capture-a-similar-feeling/
Cet article provient du compte WeChat officiel « 新智元 » (New Zhiyuan), auteur : ASI启示录
