# Apprentissage Articles associés

Le Centre d'actualités HTX fournit les derniers articles et analyses approfondies sur "Apprentissage", couvrant les tendances du marché, les mises à jour des projets, les développements technologiques et les politiques réglementaires dans l'industrie crypto.

Altman revient à Stanford pour admettre son erreur : La réflexion externalisée à l'IA, une génération voit son cerveau se rétrécir

Sam Altman, le PDG d'OpenAI, a récemment exprimé ses inquiétudes concernant l'impact de l'IA sur l'éducation lors d'une conférence à Stanford. Il reconnaît s'être trompé en prédisant que le système éducatif se réformerait rapidement après l'arrivée de ChatGPT. Après trois ans et demi, l'IA a évolué de manière exponentielle, mais les méthodes pédagogiques restent largement inchangées, reposant toujours sur la mémorisation et les réponses standardisées. Altman met en garde contre l'"externalisation" de la pensée critique vers l'IA, comparant cela à une atrophie musculaire du cerveau. Des études, comme celle de l'UC Berkeley, montrent que si les notes aux devoirs (rédaction, programmation) ont augmenté avec l'usage du ChatGPT, les résultats aux examens, eux, stagnent, indiquant un apprentissage superficiel. Il souligne le paradoxe suivant : bien que l'IA puisse exceller dans des tâches comme l'écriture ou le codage, les humains doivent continuer à les pratiquer pour développer leurs capacités de raisonnement. L'enjeu n'est pas d'interdire l'IA, mais de réformer l'évaluation pour valoriser la capacité à poser de bonnes questions, à juger, à créer et à vérifier les informations produites par les machines. Selon lui, si le système éducatif ne s'adapte pas, une génération risque de voir ses compétences cognitives fondamentales s'affaiblir, creusant un "déficit cognitif" dangereux alors que la technologie continue d'avancer à un rythme effréné.

marsbit07/16 08:23

Altman revient à Stanford pour admettre son erreur : La réflexion externalisée à l'IA, une génération voit son cerveau se rétrécir

marsbit07/16 08:23

Dwarkesh Patel : La prochaine génération d'IA pourrait provenir du "travail"

Dwarkesh Patel, célèbre podcasteur tech de la Silicon Valley, s'interroge sur le prochain paradigme d'entraînement de l'IA. Il identifie le RLVR (Reinforcement Learning with Verifiable Rewards), efficace pour les tâches "grindables" comme le code ou les mathématiques (vérifiables et reproductibles à grande échelle), comme une étape clé. Cependant, il souligne ses limites pour les tâches complexes du monde réel (entreprendre, plaider en justice, gagner une élection), où les environnements sont non stationnaires, non réinitialisables et à rétroaction lente. L'enjeu principal, selon lui, est le "learning back to the weights" : apprendre à comprimer de manière efficace l'expérience acquise lors du déploiement réel en modifications durables des poids du modèle, au-delà de l'apprentissage contextuel temporaire. Il évoque deux pistes prometteuses : 1. **L'OPSD (On-Policy Self-Distillation)** : distiller les connaissances d'un modèle "expérimenté" ayant appris en contexte vers le modèle de base. 2. **Le "Dreaming"** : la capacité de l'agent à construire ses propres environnements simulés à partir d'observations réelles pour s'y entraîner de manière intensive. À terme, le futur paradigme d'entraînement pourrait combiner une phase préalable de RLVR pour des compétences agentiques de base, puis une phase continue d'apprentissage à partir de l'expérience réelle accumulée après le déploiement. L'avancée de l'IA reposerait ainsi moins sur des données humaines préexistantes que sur l'expérience autonome acquise en accomplissant des tâches authentiques.

marsbit06/28 23:54

Dwarkesh Patel : La prochaine génération d'IA pourrait provenir du "travail"

marsbit06/28 23:54

Comment bien mener une recherche : cultiver les compétences qui peuvent être réellement « pratiquées délibérément »

Personne ne vous a jamais vraiment appris à faire de la recherche. On vous donne un bureau, un problème choisi par d'autres, et des instructions vagues pour "produire quelque chose de nouveau". Ainsi, la plupart des gens rétroconçoient le métier à partir de ce qu'ils voient (articles, posts), apprenant à *sembler* chercheurs plutôt qu'à en *devenir*. Les véritables compétences en recherche sont un empilement de micro-compétences, presque toutes cultivables par la pratique délibérée. **Choisir ses propres problèmes.** Nous absorbons souvent des problèmes (du superviseur, des tendances) sans en comprendre le raisonnement sous-jacent, nous plaçant en retard face à des concurrents nombreux. John Schulman recommande de choisir un résultat que l'on souhaite réellement atteindre et de raisonner à rebours pour concevoir les expériences. Cette approche mène à l'originalité. Le "bon goût" est un muscle : prédire les résultats d'expériences, deviner les conclusions d'articles à partir des méthodes, noter quelles avancées resteront pertinentes, puis vérifier. **Améliorer ses sources.** S'alimenter aux mêmes sources (arXiv, discussions) génère les mêmes idées que tout le monde. Les archives anciennes sont sous-estimées : les idées clés (MoE, LSTM) sont souvent des réinventions. Lire des textes fondateurs comme "The Bitter Lesson" de Sutton ou le discours de Shannon sur la pensée créative est crucial. La **largeur** (neurosciences, conception de mécanismes, statistiques, architecture matérielle) est aussi importante que la profondeur. Lisez les **articles eux-mêmes**, surtout les annexes et les sections sur les limites. **Tout noter.** L'écriture révèle les failles des idées qui semblaient matures. C'est le mécanisme de défense le moins cher contre l'auto-tromperie, un point souligné par Feynman. Darwin notait systématiquement les faits contredisant sa théorie, craignant que sa mémoire ne les efface. Tenez un journal : hypothèses, paramètres, attentes, résultats, connaissances révisées. Relire ses notes d'il y a un mois est une leçon d'humilité sans égale.

marsbit06/15 12:27

Comment bien mener une recherche : cultiver les compétences qui peuvent être réellement « pratiquées délibérément »

marsbit06/15 12:27

L'équipe de recherche de l'Université du Zhejiang propose une nouvelle approche : Enseigner à l'IA la façon dont le cerveau humain comprend le monde

Une équipe de recherche de l’Université du Zhejiang a proposé une nouvelle approche pour améliorer l’intelligence artificielle : enseigner aux modèles la manière dont le cerveau humain comprend le monde. Contrairement à l’idée répandue selon laquelle l’augmentation des paramètres des modèles les rapproche de la pensée humaine, l’étude publiée dans *Nature Communications* montre que les grands modèles (comme SimCLR, CLIP, DINOv2) voient leurs capacités de reconnaissance concrète s’améliorer avec l’échelle, mais leurs compétences conceptuelles abstraites stagnent ou régressent. Par exemple, avec une augmentation des paramètres de 22,06 millions à 304,37 millions, les performances sur les tâches concrètes sont passées de 74,94 % à 85,87 %, tandis que les tâches abstraites sont tombées de 54,37 % à 52,82 %. La différence fondamentale réside dans la manière dont les humains et les modèles organisent les concepts : les humains catégorisent de manière hiérarchique et flexible, tandis que les modèles s’appuient excessivement sur des motifs statistiques dans les données, sans structuration conceptuelle robuste. L’équipe a utilisé des signaux cérébraux enregistrés lorsque des humains observaient des images pour superviser l’apprentissage des modèles. Cette méthode a permis de transférer la structure conceptuelle humaine aux réseaux de neurones profonds. Les résultats montrent que la représentation interne du modèle se rapproche de celle du cerveau, améliorant ainsi sa capacité à généraliser et à apprendre avec peu d’exemples. Dans des tâches de catégorisation abstraite, le modèle a gagné 20,5 % en performance, surpassant même des modèles beaucoup plus grands. Cette approche oriente la recherche vers une intelligence structurée plutôt que simplement scaled, et ouvre la voie à des systèmes capables d’évoluer et de s’adapter de manière autonome, comme le propose également Neosoul avec ses agents IA en environnement dynamique.

marsbit04/05 04:44

L'équipe de recherche de l'Université du Zhejiang propose une nouvelle approche : Enseigner à l'IA la façon dont le cerveau humain comprend le monde

marsbit04/05 04:44

活动图片