# Désinformation Articles associés

Le Centre d'actualités HTX fournit les derniers articles et analyses approfondies sur "Désinformation", couvrant les tendances du marché, les mises à jour des projets, les développements technologiques et les politiques réglementaires dans l'industrie crypto.

15 modèles de raisonnement échouent collectivement : explication des risques cachés derrière les chaînes de pensée révélées

Lorsque les modèles de raisonnement à grande échelle (LRM) exposent leurs processus de raisonnement intermédiaires aux utilisateurs et aux systèmes en aval, une question négligée émerge : se fier uniquement à la sécurité de la réponse finale est-il suffisant ? Une étude conjointe de plusieurs universités, dont Harvard, USC et le MIT, démontre le contraire. Elle révèle que les chaînes de raisonnement (CoT) peuvent générer des contenus à haut risque (ex : instructions pour fabriquer une bombe), même lorsque la réponse finale semble sûre. L'étude propose une évaluation en deux étapes : analyser séparément la trajectoire de raisonnement (r) et la réponse finale (y) selon 20 principes de sécurité, chacun noté de 1 à 5. Trois modes d'échec sont identifiés : **Unsafe** (raisonnement et réponse non sûrs), **Leak** (raisonnement dangereux mais réponse sûre), et **Escape** (raisonnement sûr mais réponse dangereuse). Testé sur 15 modèles de raisonnement (dont GPT-4o, Gemini, Claude) avec un ensemble de 41K prompts potentiellement nuisibles, un constat majeur apparaît : **la dangerosité moyenne du raisonnement dépasse systématiquement celle de la réponse finale** pour tous les modèles. Les risques se concentrent sur des catégories comme la désinformation, les préjugés et les dommages physiques. Pour atténuer ces risques, les chercheurs proposent une méthode d'**orientation adaptative multi-principes**. Elle ajuste les activations internes du modèle pendant le raisonnement pour le guider vers des états « sûrs » définis par les principes. Testée sur des modèles open-source (comme DeepSeek-R1), cette méthode réduit le taux de contenus non sûrs jusqu'à 40.8% tout en conservant 97.7% des performances sur des benchmarks standard. En conclusion, cette recherche souligne l'importance cruciale d'évaluer et de contrôler la sécurité tout au long du processus de raisonnement, et pas seulement au résultat final, en fournissant un cadre unifié pour le diagnostic et l'atténuation de ces risques cachés.

marsbitIl y a 9 h

15 modèles de raisonnement échouent collectivement : explication des risques cachés derrière les chaînes de pensée révélées

marsbitIl y a 9 h

« L’IA perce les défenses de la NSA en quelques heures » fait le buzz, la vérité révèle-t-elle un exercice Red Team ?

Une déclaration largement diffusée selon laquelle l'IA Mythos d'Anthropic aurait « piraté en quelques heures la quasi-totalité des systèmes classifiés de la NSA » s'est avérée être une interprétation trompeuse d'un exercice de « red team » autorisé. L'origine remonte à un article de *The Economist* citant le sénateur Mark Warner, qui rapportait les propos du chef de la NSA. Le journaliste Shashank Joshi a par la suite clarifié que cette performance s'était déroulée dans des conditions très spécifiques et contrôlées, où Mythos était utilisé avec d'autres outils pour identifier des vulnérabilités dans un environnement répliqué de la NSA, et non pour une intrusion réelle. Cette démonstration, bien que vertigineuse par sa rapidité, concernait donc un test de sécurité interne. Anthropic limite d'ailleurs l'accès à son modèle avancé Mythos via le « Project Glasswing », une initiative réservée à des partenaires de défense triés sur le volet pour évaluer leurs propres systèmes. La position du gouvernement américain envers Anthropic et Mythos apparaît ambivalente. Alors que le Pentagone a initialement rompu sa collaboration et qu'un décret a brièvement restreint l'accès à certains modèles suite à des craintes de contournement des garde-fous, la NSA continuerait de les utiliser en interne. Cette situation souligne le double enjeu : reconnaître les capacités offensives potentielles de l'IA tout en cherchant à les exploiter pour la cybersécurité nationale. L'épisode met enfin en lumière la difficulté de réguler ces technologies et la rapidité avec laquelle une information contextuelle peut être déformée lorsqu'elle circule.

marsbit06/23 00:58

« L’IA perce les défenses de la NSA en quelques heures » fait le buzz, la vérité révèle-t-elle un exercice Red Team ?

marsbit06/23 00:58

Claude va-t-il bloquer les comptes et vérifier les cartes d'identité ? La reconnaissance faciale est un vieux dossier vieux de deux mois, « la transmission des données à la police » est une mauvaise interprétation

Anthropic a mis à jour sa politique de confidentialité pour Claude, entrant en vigueur le 8 juillet. Contrairement aux interprétations répandues sur les réseaux sociaux chinois, les principaux changements ne sont pas aussi radicaux qu’annoncé. L’authentification par pièce d’identité et reconnaissance facile, présentée à tort comme une nouvelle mesure, est en réalité opérationnelle depuis avril 2026 via le prestataire Persona. La mise à jour juridique ne fait que formaliser cette pratique existante. L’affirmation selon laquelle le nouveau texte facilite le partage de données avec les autorités policières est également infondée. Une comparaison ligne par ligne avec l’ancienne version montre que les conditions de divulgation aux forces de l’ordre (croyance de bonne foi, prévention d’activités illégales, etc.) étaient déjà présentes. Le nouveau libellé est simplement plus structuré et détaillé. Le changement substantiel réside dans la couverture explicite des flux de données liés aux "Agents" : lorsque Claude effectue des tâches multi-étapes ou interagit avec des services tiers, les entrées/sorties de l’utilisateur sont partagées avec ces tiers. Cette clarification comble un vide de l’ancienne politique, adaptant le texte aux capacités évoluées de l’assistant. Anthropic réaffirme par ailleurs ne pas vendre les données des utilisateurs, ne pas inclure de publicité dans Claude, et laisser le contrôle sur l’utilisation des conversations pour l’entraînement des modèles. Cette mise à jour correspond principalement à un alignement de la politique sur la réalité technique et juridique existante, plutôt qu’à un durcissement intentionnel de la protection de la vie privée.

marsbit06/15 08:59

Claude va-t-il bloquer les comptes et vérifier les cartes d'identité ? La reconnaissance faciale est un vieux dossier vieux de deux mois, « la transmission des données à la police » est une mauvaise interprétation

marsbit06/15 08:59

Le Fondateur d'Ethereum Dévale 100 000 ETH D'une Valeur de 170 M$, Que Se Passe-t-il ?

Une rumeur virale a récemment circulé dans l'espace crypto, prétendant que le cofondateur d'Ethereum, Vitalik Buterin, aurait vendu 110 000 ETH (valant 170 millions de dollars) en quelques heures le 5 juin, semant l'inquiétude parmi les investisseurs quant à un possible effondrement du marché. Certains analystes y ont vu un signal baissier majeur. Cependant, la communauté crypto a rapidement contredit ces affirmations. Une analyse on-chain a révélé que la transaction impliquait en réalité l'autre cofondateur, Joseph Lubin, et non Buterin. Les fonds n'ont pas été vendus mais déplacés vers un vault DeFi (Finance Décentralisée) pour servir de garantie et réduire le risque de liquidation sur un prêt existant. Il s'agit d'une stratégie courante de gestion de liquidité, et aucun ETH n'a été introduit sur le marché libre. Face à cette désinformation, les membres de la communauté ont critiqué la propagation de fausses informations et rappellé l'importance de vérifier les transactions avec des outils on-chain fiables avant de tirer des conclusions.

bitcoinist06/09 01:36

Le Fondateur d'Ethereum Dévale 100 000 ETH D'une Valeur de 170 M$, Que Se Passe-t-il ?

bitcoinist06/09 01:36

L'IA commence à falsifier les médias locaux

Une enquête du Florida Times révèle qu'un site d'information locale en Floride, le *South Florida Standard*, est en réalité une fausse plateforme médiatique entièrement générée par IA. Le site présentait une équipe éditoriale fictive, avec photos et biographies de journalistes créées par intelligence artificielle, et publiait des articles reformulés à partir de contenus réels. L'enquête a permis de relier ce site à 16 autres similaires, tous gérés par la même entité, totalisant plus de 3500 pages et 44 000 visiteurs. Le coût de création est dérisoire : pour 10 dollars et avec une simple instruction, une IA peut générer un tel site en 15 minutes. L'homme derrière ce réseau, Drew Chapin, ancien cadre reconnu coupable de fraude, dirige aujourd'hui une entreprise de gestion de réputation en ligne. Il admet avoir mené une "expérience" pour tester la création d'autorité thématique sur les moteurs de recherche et aider à enterrer des résultats négatifs. Ce phénomène, qualifié de "pink slime" (boue rose), prolifère aux États-Unis alors que les médias locaux traditionnels disparaissent, créant des "déserts d'information". Les experts alertent sur les risques de cette pratique : elle siphonne le trafic des vrais médias et, si les futures IA s'entraînent sur ces contenus frauduleux, pourrait gravement dégrader la qualité de l'information en ligne.

marsbit05/16 03:44

L'IA commence à falsifier les médias locaux

marsbit05/16 03:44

Des dizaines de millions d'erreurs par heure : une enquête révèle « l'illusion de précision » de la recherche IA de Google

Google, avec son énorme volume de recherches (5 billions par an), générerait des millions de réponses erronées chaque heure via sa fonction AI Overviews, selon une étude commandée par le *New York Times* et menée par Oumi. Bien que le taux de précision soit de 91% avec Gemini 3, cela représente toujours un flux massif de désinformation. Pire, plus de la moitié des réponses correctes citent des sources qui ne corroborent pas l'information donnée. Les plateformes comme Facebook et Reddit sont fréquemment citées, même pour des réponses fausses. De plus, le système est facilement manipulable : une fausse information a été intégrée en moins de 24 heures. Google conteste la méthodologie de l'étude, arguant que les tests ne reflètent pas les requêtes réelles des utilisateurs et utilisent une IA pour évaluer une autre IA.

marsbit04/13 02:14

Des dizaines de millions d'erreurs par heure : une enquête révèle « l'illusion de précision » de la recherche IA de Google

marsbit04/13 02:14

L'IA a lu « 1984 » et a décidé de l'interdire

Après qu'une école de Manchester a utilisé l'IA pour censurer 193 livres de sa bibliothèque — dont *1984* de George Orwell, jugé "trop violent" —, une bibliothécaire a été contrainte de démissionner pour avoir refusé d’appliquer ces recommandations. L’établissement et les autorités locales ont validé la décision de l'IA, soulignant un problème central : qui doit juger de ce qui est approprié quand l’IA prend ce type de décisions ? La même semaine, Wikipédia a interdit la génération de contenu par l'IA pour éviter la propagation d’inexactitudes et l’auto-empoisonnement des modèles. Parallèlement, OpenAI a abandonné son projet de "mode adulte" par crainte de dépendance malsaine et de contournement par les mineurs. Ces événements illustrent un écart croissant entre la rapidité de génération de l’IA et la lenteur de la modération humaine. Face aux risques, les réponses sont souvent précipitées : interdiction pure, suppression de fonctionnalités, sans cadre cohérent. La course entre innovation et régulation s’accélère, et les conséquences pourraient être graves si rien n’est fait.

marsbit03/27 05:36

L'IA a lu « 1984 » et a décidé de l'interdire

marsbit03/27 05:36

Wikipédia publie de nouvelles règles d'édition : Vote adopté, interdiction stricte d'utiliser l'IA pour générer ou réécrire le contenu des articles

Le 26 mars, Wikipédia a officiellement adopté par vote une nouvelle politique éditoriale interdisant l'utilisation directe de l'IA pour générer ou réécrire du contenu. Cette décision, approuvée à une écrasante majorité par les éditeurs bénévoles (40 contre 2), vise à préserver l'exactitude des informations et la souveraineté éditoriale humaine. Bien que l'IA reste autorisée comme outil d'assistance pour suggérer des modifications, son utilisation est strictement encadrée : aucun contenu non vérifié ne peut être introduit, afin d'éviter les hallucinations des modèles et les risques de désinformation. Cette mesure équilibre prudemment l'efficacité technologique et la fiabilité, définissant une frontière claire entre assistance et création, et sert de référence pour la gouvernance éthique des bases de connaissances à l'ère de l'IA.

marsbit03/27 01:11

Wikipédia publie de nouvelles règles d'édition : Vote adopté, interdiction stricte d'utiliser l'IA pour générer ou réécrire le contenu des articles

marsbit03/27 01:11

Comment les faux selfies IA sont devenus un nouvel outil de production grise ciblant Changpeng Zhao ?

Le fondateur de Binance, Changpeng Zhao (CZ), a récemment dénoncé une falsification d'image le mettant en scène aux côtés d’un utilisateur prétendant soutenir le BNB. CZ a identifié plusieurs incohérences : un chemise qu’il n’a jamais possédée, un arrière-plan fictif et une résolution inégale entre les personnages. L’image était en réalité un montage à partir d’une photo originale le montrant avec Leonard, PDG d’Aster. Le compte à l’origine de cette publication, suivi par 863 000 personnes, avait préalablement bloqué CZ. Son historique montre un changement suspect : initialement non lié à la cryptomonnaie, il s’est soudainement concentré sur le BNB sans transition logique. CZ y voit une tentative délibérée de manipulation de son image. Bien qu’il ait initialement ignoré ces falsifications, CZ a tenu à alerter le public et les médias sur les risques des contenus truqués, soulignant que ne pas les识别 peut entraîner des conséquences graves.

比推02/05 13:31

Comment les faux selfies IA sont devenus un nouvel outil de production grise ciblant Changpeng Zhao ?

比推02/05 13:31

Binance Répond à une Lettre Juridique Falsifiée, Rejette les Accusations d'Insolvabilité

Binance a nié toute connexion avec une lettre de cessation et d'abstraction virale liée à des allégations d'insolvabilité et de faillite, qualifiant le document de faux. Ces rumeurs, propagées sur les réseaux sociaux, ont commencé lorsqu'une personne a publié sur X une prétendue lettre juridique menaçant des poursuites. Binance a répondu via son service client officiel, affirmant que la lettre n'émanait pas d'eux, et a exhorté les utilisateurs à se méfier des fausses informations. L'exchange a reiteré que ces allégations étaient sans fondement et qu'il fonctionnait de manière financièrement stable. Malgré des campagnes encourageant les retraits de fonds, les données on-chain ont montré une augmentation des soldes d'actifs. Binance continue de lutter contre la désinformation pour éviter une volatilité marché injustifiée.

TheNewsCrypto02/05 11:31

Binance Répond à une Lettre Juridique Falsifiée, Rejette les Accusations d'Insolvabilité

TheNewsCrypto02/05 11:31

活动图片

Catégories populairesright-arrow

Tags tendancesright-arrow