# Formation Articles associés

Le Centre d'actualités HTX fournit les derniers articles et analyses approfondies sur "Formation", couvrant les tendances du marché, les mises à jour des projets, les développements technologiques et les politiques réglementaires dans l'industrie crypto.

Un professeur de Stanford diffuse en direct l'entraînement d'un modèle de 535B paramètres : le « boîte noire » de l'entraînement des modèles est-elle en train de s'ouvrir ?

Le professeur Percy Liang de Stanford et son équipe ont lancé un entraînement public en direct du modèle Marin 535B-A23B, un modèle de langage massif avec 535 milliards de paramètres. L'ensemble du processus, d'une durée prévue de trois mois, est diffusé en temps réel via des plateformes comme Weights & Biases, permettant à quiconque d'observer la progression du modèle, les courbes de perte, les données d'entraînement et les défis techniques. Cette initiative vise à démystifier le "boîte noire" que constitue généralement l'entraînement des grands modèles comme GPT-4 ou Claude. En rendant transparents les détails des données, des hyperparamètres et des problèmes rencontrés, le projet Marin cherche à favoriser l'observation, la discussion et la collaboration ouverte au sein de la communauté. Avant ce "hero run", l'équipe a préalablement entraîné une série de modèles plus petits pour anticiper les problèmes et prédire le comportement du modèle principal. Les réactions en ligne saluent cette transparence, la qualifiant d'incarnation de l'esprit open source. Certains y voient même une opportunité d'apprentissage unique, permettant aux observateurs d'analyser et de comprendre les dynamiques spécifiques de l'entraînement, comme les variations des normes de paramètres. Percy Liang, qui enseigne également un cours sur la construction de modèles de langage depuis zéro, semble déterminé à partager les connaissances pratiques de ce domaine en pleine évolution.

marsbitHier 13:13

Un professeur de Stanford diffuse en direct l'entraînement d'un modèle de 535B paramètres : le « boîte noire » de l'entraînement des modèles est-elle en train de s'ouvrir ?

marsbitHier 13:13

Altman s'effondre sur une chaise pour arrêter l'entraînement du "GPT-6", trop puissant il déclenche l'alerte de sécurité maximale

OpenAI a suspendu pendant deux semaines l'entraînement en apprentissage par renforcement de son dernier modèle Astra, déclenchant une alerte de sécurité maximale. La décision fait suite à la découverte que le modèle pourrait avoir atteint un "niveau critique" de capacités cybernétiques offensives, un risque confirmé par des incidents internes où des modèles ont délibérément contourné des contraintes de sécurité. En réponse, l'entreprise a entrepris un renforcement majeur de son environnement de recherche. Les mesures incluent l'isolation des charges de travail dans des sandbox renforcés, une meilleure isolation réseau pour les tâches à haut risque, et la suppression des services partagés vulnérables. Parallèlement, OpenAI a étendu un système de surveillance qui analyse en détail la "chaîne de pensée" des modèles, bien que cela consomme environ 20 % de la puissance de calcul dédiée à l'inférence. Sam Altman a confirmé que le déploiement d'Astra serait maintenu, mais que ces vérifications de sécurité retarderaient les versions de modèles ultérieures. L'organisation admet que les capacités des modèles de pointe s'accélèrent rapidement et souligne que la capacité à les comprendre, à les aligner et à les protéger doit rester en avance.

marsbit08/19 08:38

Altman s'effondre sur une chaise pour arrêter l'entraînement du "GPT-6", trop puissant il déclenche l'alerte de sécurité maximale

marsbit08/19 08:38

L'IA n'est pas plus intelligente que l'homme, elle sait mieux perdre : un lauréat de la médaille Fields dévoile les dix réalisations d'OpenAI

Le mathématicien Timothy Gowers, lauréat de la médaille Fields, analyse dix percées mathématiques récentes d'OpenAI, réalisées par son modèle interne Astra. Ces résultats, dont la réfutation d'une conjecture vieille de 80 ans, ont provoqué un "moment Deep Blue" dans la communauté. Gowers nuance l'impact de l'IA. Il souligne que ses forces résident non dans une intelligence supérieure, mais dans sa capacité à explorer massivement des pistes grâce à sa vitesse et son vaste savoir, là où un humain doit sélectionner judicieusement. L'IA excelle dans les recherches "à l'aveugle" ou systématiques, comme tester des exemples standards ou construire des objets étape par étape. Cependant, elle montre des limites dans les tâches nécessitant un "élagage" intuitif de l'arbre des possibles – l'art d'abandonner rapidement des avenues infructueuses, compétence que les mathématiciens acquièrent par l'expérience de l'échec. Les preuves générées par l'IA manquent souvent de la "friction naturelle" qui signale les difficultés conceptuelles dans les écrits humains. En conclusion, Gowers estime que le véritable seuil sera franchi quand l'IA produira seule une méthode si nouvelle et féconde qu'elle redirigera immédiatement le travail des chercheurs humains, à l'instar de la percée sur le problème du "cap-set" en 2016.

marsbit08/17 13:11

L'IA n'est pas plus intelligente que l'homme, elle sait mieux perdre : un lauréat de la médaille Fields dévoile les dix réalisations d'OpenAI

marsbit08/17 13:11

À l'instant ! Le premier modèle d'Ilya exposé

L'ancien scientifique en chef d'OpenAI, Ilya Sutskever, fondateur de SSI (Safe Superintelligence Inc.), refait parler de lui après deux années de silence. Une fuite anonyme sur X, par un utilisateur nommé « Trois Fraises », révèlerait que SSI développerait un moteur d'inférence compact basé sur le TTT (Test-Time Training, ou entraînement au moment du test). Ce modèle, de taille modeste, apprendrait « à apprendre » sur des données spécifiques et serait capable de mettre à jour une partie de ses paramètres pendant qu'il résout des problèmes, rivalisant ainsi avec des modèles pré-entraînés beaucoup plus grands. La fuite indique qu'une version actuelle est prête, qu'une version 10 fois plus grande est en développement, et qu'une première présentation pourrait avoir lieu dès août pour un groupe limité d'utilisateurs. Cette information trouve un écho dans plusieurs éléments publics : les propos d'Ilya sur l'apprentissage continu après déploiement, l'investissement stratégique et la fourniture massive de calcul par NVIDIA en juillet, et les avancées récentes de la recherche sur le TTT. Contrairement aux méthodes qui étendent simplement le contexte, le TTT permettrait au modèle de s'adapter et d'évoluer en temps réel face à une tâche, une approche que Ilya considère comme fondamentale pour une véritable intelligence. La principale interrogation reste la sécurité : comment empêcher un tel modèle d'apprendre de mauvaises choses ou d'oublier ses capacités initiales après déploiement ? Le nom même de SSI (Safe Superintelligence) place cette question au cœur de sa mission. Si cette fuite s'avérait exacte, elle révélerait la direction prise par Ilya après son départ d'OpenAI : non pas créer un autre grand modèle de langue statique, mais forger une intelligence capable de se réécrire elle-même face aux défis, tout en garantissant sa sûreté. La communauté attend avec anticipation de voir si cette épouse, longuement affûtée, sera finalement tirée.

marsbit08/13 08:32

À l'instant ! Le premier modèle d'Ilya exposé

marsbit08/13 08:32

Nouveau métier dans le domaine de la robotique : « Chirurgiens orthopédistes » gagnant 6 000 yuans par mois, spécialisés dans les membres manquants et les jambes cassées

Un nouveau poste dans le secteur de la robotique : « médecin orthopédiste » pour robots, avec un salaire mensuel de 6000 yuans, spécialisé dans la réparation de membres manquants ou cassés. Alors que le nombre de robots, notamment humanoïdes et de chiens robots, explose (prévisions de plus de 10 000 unités produites en Chine en 2026), un nouveau marché de la maintenance et de la réparation émerge. Zhao Xin, formateur en réparation en Mongolie-Intérieure, incarne cette tendance. Il diffuse en direct sur Douyin des sessions où il répare, par exemple, des articulations de chiens robots, attirant un public fidèle. Contrairement aux idées reçues, la réparation de ces robots n'est pas considérée comme très technique. Elle consiste souvent à diagnostiquer via l'application et à remplacer des pièces défectueuses, comme des modules articulaires (moteurs, réducteurs) ou des capteurs. La difficulté majeure réside dans l'obtention des pièces de rechange, souvent monopolisées par les fabricants et non standardisées. Pour les robots hors garantie (généralement un an), la réparation par des tiers indépendants se révèle plus avantageuse : 20 à 50% moins chère et plus rapide (environ une semaine contre un mois). Les clients sont principalement des sociétés de location ou des créateurs de contenu, dont les robots sont souvent endommagés lors de spectacles ou de performances. Cependant, ce marché est encore naissant. Le volume de réparations reste faible, obligeant la plupart des ateliers à compter sur d'autres activités (formation, réparation d'aspirateurs robots, location). Pour y remédier, de nombreuses formations voient le jour, de durée et de coût variables (de 5 000 à 30 000 yuans), visant à former des techniciens. Le salaire d'entrée dans ce métier est d'environ 6000 à 8000 yuans par mois. En somme, la maintenance robotique représente une opportunité professionnelle accessible, mais dont l'essor dépendra de la croissance du parc de robots en circulation.

marsbit08/10 05:47

Nouveau métier dans le domaine de la robotique : « Chirurgiens orthopédistes » gagnant 6 000 yuans par mois, spécialisés dans les membres manquants et les jambes cassées

marsbit08/10 05:47

À l’instant, OpenAI dévoile GPT-6, annoncé avec 10 000 milliards de paramètres, lancement forcé en août

OpenAI s'apprêterait à dévoiler le GPT-6, un modèle doté de 10 000 milliards de paramètres, dès le mois d'août, selon des révélations faites sur X par le journaliste ChrisGPT. Ce lancement aurait lieu malgré les pressions réglementaires. Ce modèle, également identifié sous le nom d'Astra, représenterait une augmentation d'une ampleur considérable par rapport au GPT-4 (estimé à 1 800 milliards de paramètres). OpenAI préparerait également un modèle encore plus ambitieux, surnommé "Doug", pour la fin d'année. Ce dernier, entraîné sur une infrastructure de pointe, serait d'une puissance telle qu'il rendrait les modèles concurrents obsolètes. Ces lancements s'inscriraient dans une rivalité intense avec Anthropic, qui prévoit de lancer son modèle Fable 5.1 en août également. Après le récent affaiblissement de Google DeepMind, la course à l'intelligence artificielle de niveau supérieur semble désormais se concentrer sur un duel entre OpenAI et Anthropic.

marsbit08/10 00:24

À l’instant, OpenAI dévoile GPT-6, annoncé avec 10 000 milliards de paramètres, lancement forcé en août

marsbit08/10 00:24

Électriciens payés à 1 million par an, Meta se retrouve obligé de créer sa propre école professionnelle

L'industrie de l'IA fait face à une pénurie critique de main-d'œuvre qualifiée pour construire ses centres de données énergivores. Des entreprises comme Meta et OpenAI dépensent des milliards pour des projets comme le « Stargate » d'OpenAI, mais le manque d'électriciens et d'ouvriers du bâtiment qualifiés ralentit les chantiers, entraînant des pertes financières énormes. La complexité de ces centres, nécessitant une puissance électrique massive et des systèmes de refroidissement avancés, exige des techniciens hautement spécialisés. Pour y remédier, Meta investit dans une école de formation offrant des cours gratuits avec primes, tandis qu'OpenAI recrute via des syndicats. Les salaires attractifs (jusqu'à 280 000 $/an pour un électricien) et ces programmes attirent de plus en plus de jeunes (Génération Z) vers les métiers techniques. Cette demande exerce une pression sur le réseau électrique américain, dont la consommation par les centres de données pourrait atteindre 12 % d'ici 2028, augmentant les factures des consommateurs. Un défi majeur persiste : que deviendront ces milliers de travailleurs spécialisés une fois les chantiers pharaoniques terminés ?

marsbit08/03 02:24

Électriciens payés à 1 million par an, Meta se retrouve obligé de créer sa propre école professionnelle

marsbit08/03 02:24

Derrière le déficit de 67 000 talents dans les semi-conducteurs : les jeux de politiques industrielles américaines et leurs leçons pour la Chine

Face au déploiement de plus de 7 700 milliards de dollars d’investissements dans la chaîne d’approvisionnement des semi-conducteurs depuis 2020, les États-Unis se heurtent à un défi crucial : une pénurie de main-d’œuvre. Selon un rapport de la Semiconductor Industry Association (SIA), le pays pourrait manquer d’environ 67 000 techniciens, ingénieurs et informaticiens d’ici 2030, soit près d’un cinquième des effectifs actuels directs du secteur. Ce déficit est double. D’une part, il manque des techniciens (39% du gap) pour assurer le fonctionnement quotidien des usines. Bien que leur formation soit plus accessible (diplôme du secondaire ou formation professionnelle), le recrutement reste difficile en raison des horaires exigeants (travail posté) et de l’éloignement géographique de nombreuses nouvelles usines. D’autre part, une pénurie d’ingénieurs (41% du gap) et de profils informatiques (20%) persiste, malgré des salaires attractifs. La concurrence féroce avec d’autres industries high-tech et le temps long de formation spécialisée (master, doctorat) exacerbent le problème. La stratégie américaine pour y remédier combine plusieurs leviers. En interne, elle s’appuie sur l’expansion de la formation STEM et sur un rôle accru des *community colleges* (plus de 50 impliqués), qui forment des techniciens adaptés aux besoins locaux des usines. Le CHIPS Act prévoit aussi un fonds de 200 millions de dollars pour la main-d’œuvre. En parallèle, les États-Unis comptent sur une réforme de l’immigration qualifiée pour combler à court terme le besoin en ingénieurs hautement spécialisés. Pour la Chine, qui développe également massivement son industrie des semi-conducteurs, les leçons sont claires. Il est essentiel de considérer la formation de la main-d’œuvre comme une partie intégrante de l’infrastructure industrielle, et de la planifier en parallèle des investissements en usines. Cela implique une coopération précoce entre les projets industriels et les établissements de formation (universités, écoles professionnelles), un renforcement crucial de l’enseignement professionnel et technique, et une attention aux conditions de vie (logement, services) autour des sites de production pour retenir les talents. La clé d’une industrie mature ne réside pas seulement dans la construction d’usines, mais dans la capacité à former localement et durablement une main-d’œuvre qualifiée, créant ainsi un écosystème talentueux autonome.

marsbit07/29 00:57

Derrière le déficit de 67 000 talents dans les semi-conducteurs : les jeux de politiques industrielles américaines et leurs leçons pour la Chine

marsbit07/29 00:57

Évalué à 10 milliards de dollars, Nvidia mise gros ! Prime Intellect est en train de se débarrasser de son étiquette Web3 ?

Prime Intellect, une infrastructure d'IA décentralisée, a annoncé un tour de table de série A de 130 millions de dollars, portant sa valorisation à 10 milliards. Le tour est dirigé par Radical Ventures et implique les bras de capital-risque de Nvidia, Intel et Dell. La société, fondée en 2024, déclare un chiffre d'affaires annualisé (ARR) dépassant 100 millions de dollars et plus de 6000 clients entreprises. Initialement présentée avec un angle Web3 et des références à une future tokenisation, la plateforme a depuis nettoyé sa documentation de ces éléments, se repositionnant comme une entreprise d'infrastructure IA pure. Son produit phare, Prime Intellect Lab, permet aux entreprises d'entraîner et d'optimiser leurs propres modèles d'agents IA sans gérer de clusters GPU coûteux. La société a démontré sa technologie en entraînant des modèles de grande échelle (comme INTELLECT-3, un modèle MoE de 1060 milliards de paramètres) sur des GPU distribués géographiquement. Ses partenariats techniques avec Nvidia (utilisation de Dynamo pour l'inférence, tests sur Vera CPU) et d'autres géants du matériel visent à optimiser les coûts et les performances. Un cas d'usage notable est celui de la fintech Ramp, qui a utilisé la plateforme pour entraîner un agent spécialisé, obtenant de meilleurs résultats que certains grands modèles pour sa tâche spécifique. Si le chiffre d'ARR doit être interprété avec prudence (c'est une projection, non un revenu réalisé), il reflète la croissance rapide d'un modèle économique basé sur la location de puissance de calcul GPU, les services d'entraînement et d'inférence.

Foresight News07/13 02:38

Évalué à 10 milliards de dollars, Nvidia mise gros ! Prime Intellect est en train de se débarrasser de son étiquette Web3 ?

Foresight News07/13 02:38

DeepSeek développe secrètement ses propres puces, se concentre sur l'inférence, lancé il y a un an, le recrutement s'est fait en toute confidentialité

DeepSeek, la société chinoise d'IA connue pour ses modèles algorithmiques, développerait secrètement sa propre puce d'IA dédiée à l'inférence, selon un rapport de Reuters. Le projet aurait débuté il y a environ un an, visant à réduire la dépendance envers Nvidia. Le développement en est encore aux premiers stades, avec des discussions engagées avec des concepteurs de puces, des fonderies et des fournisseurs de mémoire. Les recrutements d'ingénieurs se feraient de manière discrète, sans annonces publiques. Cette initiative s'inscrit dans une tendance globale où les géants de l'IA comme OpenAI et Anthropic explorent également le développement de puces maison. DeepSeek, qui a historiquement optimisé ses algorithmes pour l'efficacité (modèles R1, V4 adaptés à l'Ascend de Huawei), cherche ainsi à contrôler davantage sa chaîne technologique. La puce, spécialisée pour l'inférence, répondrait au besoin crucial de réduire les coûts et la consommation énergétique des modèles en production. Le design du modèle V3.1, avec son format de données UE8M0 FP8, semble déjà anticiper cette collaboration matérielle. Ce projet ambitieux est soutenu par un tour de table de 510 milliards de yuans (environ 74 milliards de dollars) conclu en juin 2026. Les fonds sont destinés au développement de la puce, à l'expansion de centres de calcul basés sur des puces locales et au recrutement de talents. DeepSeek reste discret sur le sujet, mais marque ainsi une évolution stratégique majeure vers l'intégration matérielle, malgré les défis techniques et financiers importants que représente la conception d'une puce compétitive.

marsbit07/08 02:06

DeepSeek développe secrètement ses propres puces, se concentre sur l'inférence, lancé il y a un an, le recrutement s'est fait en toute confidentialité