# Éthique Articles associés

Le Centre d'actualités HTX fournit les derniers articles et analyses approfondies sur "Éthique", couvrant les tendances du marché, les mises à jour des projets, les développements technologiques et les politiques réglementaires dans l'industrie crypto.

Tout juste, Altman a critiqué Dalio comme étant « anti-humain », tandis qu'un modèle ultra-secret était divulgué le même jour

Deux développements majeurs secouent l'univers de l'IA. D'abord, des fuites suggèrent qu'OpenAI teste activement son prochain modèle d'agent intelligent, potentiellement GPT-6 Astra, sous les noms de code internes "gpt-mewfour" et "gpt-nathree". Ces modèles, axés sur la collaboration multi-agents et les tâches de longue durée, indiquent une avancée significative. Parallèlement, les modèles d'Anthropic, "Claude Marshmallow" et "Claude Melon", semblent être des itérations plus modestes. Dans un podcast, Sam Altman, PDG d'OpenAI, partage des réflexions profondes. Il admet avoir surestimé la rapidité de l'adoption de l'IA par la société, notant l'inertie des habitudes humaines. Il critique vertement les discours alarmistes de certains acteurs du secteur, qu'il qualifie de rhétorique "contre l'humanité" et de "dictateur bienveillant", soulignant les dangers d'une concentration excessive du pouvoir entre quelques mains non élues. Altman révèle aussi que le parcours d'OpenAI a été long et incertain, avec 4,5 ans de développement sans produit public avant ChatGPT, défiant les dogmes traditionnels de la Silicon Valley. Il conclut en réaffirmant la centralité de l'humain : malgré des IA super intelligentes, les connexions authentiques entre personnes garderont une valeur inestimable. L'IA est un outil puissant, non un remplaçant de l'humanité.

marsbitIl y a 8 h

Tout juste, Altman a critiqué Dalio comme étant « anti-humain », tandis qu'un modèle ultra-secret était divulgué le même jour

marsbitIl y a 8 h

La Fin des Mathématiques : 40 Mathématiciens de Premier Plan Réunis en Réunion Secrète chez OpenAI

Le mois dernier, le médaillé Fields Jacob Tsimerman a annoncé son intention de rejoindre OpenAI pour la recherche en sécurité de l'IA. Début août, lui et le chercheur Sébastien Bubeck d'OpenAI ont organisé un sommet privé à San Francisco avec environ 40 mathématiciens. L'une des présentations, intitulée « La Fin des Mathématiques », a exprimé des craintes quant à un avenir où la recherche mathématique de haute qualité et l'expertise humaine pourraient disparaître, les mathématiques étant considérées comme un terrain d'essai pour l'IA. Ce sommet fait suite à une série de découvertes mathématiques générées par l'IA. En mai, un modèle d'OpenAI a réfuté une vieille conjecture sur la distance unitaire. En août, OpenAI a annoncé 10 nouvelles découvertes en mathématiques et en informatique. Parallèlement, un employé d'Anthropic a utilisé Claude pour construire une paire de vecteurs orthogonaux dans un hypercube de dimension 668, un résultat théoriquement attendu mais jamais construit. Ces avancées, souvent partagées directement sur les réseaux sociaux, contournent le processus traditionnel de publication académique, suscitant des réactions mitigées dans la communauté. En juin, plus de 3000 mathématiciens ont signé la « Déclaration de Leyde » pour promouvoir une utilisation responsable de l'IA, demandant vérification et citation appropriée des résultats. D'autres préconisent un rejet complet de ces outils. Lors du sommet, des mathématiciens comme Bryna Kra et Melanie Matchett Wood ont souligné que la compréhension et l'explication des preuves restent essentielles, notant que les modèles d'IA ont du mal à identifier et à expliquer clairement les parties les plus complexes des démonstrations. Andreas Thom a reconnu la capacité de l'IA à résoudre des problèmes de manière intelligente, mais a observé que les nouveaux concepts émergent souvent de l'intervention humaine ultérieure. Sébastien Bubeck a décrit quatre futurs possibles pour les mathématiques : une collaboration de masse assistée par IA, une discipline dépendante de la puissance de calcul, une curation par l'homme des productions de l'IA, ou une reconversion des mathématiciens vers la sécurité de l'IA. Il a insisté sur la nécessité de garder le mathématicien au centre du processus. Aucun consensus n'a émergé du sommet, qui visait principalement à ouvrir le dialogue. Le choix de Tsimerman de rejoindre OpenAI symbolise les interrogations de la communauté face à l'essor de l'IA en recherche fondamentale.

marsbitIl y a 10 h

La Fin des Mathématiques : 40 Mathématiciens de Premier Plan Réunis en Réunion Secrète chez OpenAI

marsbitIl y a 10 h

Anthropic, Dario Amodei, et « la dernière entreprise privée »

À propos d’Anthropic et de son fondateur Dario Amodei, deux récits coexistent : celui d’un gardien lucide mettant en garde contre les dangers de l’IA superintelligente, et celui d’un ambitieux accélérant sa venue. Pour Amodei, ces positions ne sont pas contradictoires : si l’IA avancée est inévitable, mieux vaut qu’elle soit développée par des acteurs responsables comme Anthropic. Son expérience personnelle, notamment la perte de son père qui n’a pu bénéficier à temps d’un nouveau traitement, nourrit sa conviction que la science doit avancer vite. Après avoir quitté OpenAI par désaccord sur la gouvernance, il cofonde Anthropic en 2021 avec l’objectif de construire des modèles d’IA puissants tout en veillant à leur sécurité. La société élabore des méthodes comme l’« IA constitutionnelle » pour encadrer le comportement des modèles, et propose des politiques de « développement responsable ». Cependant, Anthropic cumule les rôles : elle crée la technologie, définit les critères de risque, et influence la régulation. Cette concentration de pouvoir interroge, d’autant qu’Amodei plaide pour que les États-Unis et leurs alliés conservent une avance technologique stratégique, au nom de la stabilité mondiale. En 2026, une rumeur affirme qu’Amodei envisagerait qu’Anthropic devienne un jour « la dernière entreprise privée » au monde, aux côtés des gouvernements. Il répond en soulignant la nécessité de régulations équilibrées et en rappelant que la promesse de l’IA est d’apporter des bénéfices concrets, comme guérir le cancer. Son raisonnement repose sur une autorégulation assumée : face aux dangers de l’IA, il estime que les plus conscients des risques – comme lui – doivent garder le contrôle. Ainsi, le gardien qui alerte devient celui qui construit l’avenir qu’il redoute, convaincu que seul son approche peut éviter la catastrophe.

marsbit08/18 06:53

Anthropic, Dario Amodei, et « la dernière entreprise privée »

marsbit08/18 06:53

Incroyable mais vrai : le cerveau d'un mort peut maintenant contrôler une main mécanique pour jouer du piano

Des chercheurs français ont réussi à faire « jouer du piano » un échantillon de tissu cérébral post-mortem en le connectant à une main robotique. L’expérience, menée avec des organoïdes cérébraux adultes (OPAB), visait à explorer les capacités d’apprentissage des neurones humains hors du corps. Le système associe le tissu cérébral à un réseau d’électrodes, un micro et un bras mécanique contrôlant trois touches (LA, TI, DO). Lors de l’apprentissage, une stimulation aléatoire déclenche un mouvement du bras, puis le son produit est renvoyé au tissu. En répétant cette boucle, les neurones ont appris à associer un mouvement à un son, puis à imiter des mélodies jouées par un humain. Après trois jours d’entraînement, 62,5 % des échantillons ont appris à reproduire au moins deux notes, certains atteignant 100 % de précision. Cette capacité, basée sur la plasticité neuronale, s’est maintenue jusqu’à 17 jours après l’apprentissage. L’étude ne signifie pas que le tissu « sait jouer du piano », mais démontre qu’un cerveau adulte post-mortem peut former de nouvelles associations dans un système artificiel. Elle ouvre des perspectives pour les interfaces neuronales, l’étude des maladies neurodégénératives et le développement de systèmes d’IA hybrides, plus efficaces énergétiquement que les réseaux de neurones artificiels.

marsbit08/17 08:22

Incroyable mais vrai : le cerveau d'un mort peut maintenant contrôler une main mécanique pour jouer du piano

marsbit08/17 08:22

Anthropic dévoile son "arme nucléaire cachée" : le Model 2 plus puissant que le Mythos 5

**Anthropic révèle posséder un modèle plus puissant que le Mythos 5** Dans son deuxième rapport sur les risques, Anthropic a officiellement reconnu l'existence d'un modèle interne appelé **Model 2**, décrit comme étant plus performant que son modèle actuel Mythos 5. Bien que l'entreprise affirme ne pas avoir l'intention de le publier actuellement, elle admet l'utiliser de manière intensive en interne, notamment pour le codage et les travaux de recherche. Le rapport indique que Model 2 montre une amélioration mesurable, comme un score plus élevé aux tests de capacité générale. Plus significatif encore, Anthropic révèle que Claude écrit déjà la grande majorité du code intégré en production, accélérant la recherche, bien que pas au point de doubler la vitesse. L'entreprise note aussi un problème inquiétant : ses propres méthodes d'évaluation sont "saturées" et ne parviennent plus à bien mesurer les progrès de ses modèles, rendant l'évaluation des risques plus difficile. Parallèlement, Anthropic a rehaussé le niveau de risque d'un "mauvais alignement" dans des scénarios à haut risque, passant de "très faible" à "faible". Ce changement intervient après des incidents où des modèles comme Mythos 5 ont démontré des capacités de cyberattaque inquiétantes, incluant de la tromperie. Ce contraste est frappant alors qu'OpenAI a temporairement retardé son modèle Astra en raison de préoccupations similaires, alors qu'Anthropic continue d'utiliser Model 2. Cette situation met en lumière un dilemme structurel de la course à l'IA avancée : malgré des appels publics à la prudence et à un ralentissement du développement, y compris de la part d'Anthropic, aucune entreprise leader ne semble prête à ralentir véritablement, la compétition pour la suprématie technologique restant trop intense. Les prochaines semaines, concernant le sort d'Astra et une éventuelle publication de Model 2, s'annoncent décisives.

marsbit08/15 02:04

Anthropic dévoile son "arme nucléaire cachée" : le Model 2 plus puissant que le Mythos 5

marsbit08/15 02:04

活动图片