# Désinformation Articles associés

Le Centre d'actualités HTX fournit les derniers articles et analyses approfondies sur "Désinformation", couvrant les tendances du marché, les mises à jour des projets, les développements technologiques et les politiques réglementaires dans l'industrie crypto.

Le filigrane de Claude a été cassé, récoltant 11k étoiles, mais son installation sera refusée

La politique de filigrane de Claude, imposant une marque cachée sur tous ses textes générés, a suscité une forte opposition. Cette méthode, basée sur la technique SynthID-Text de Google DeepMind, insère des modèles statistiques dans des choix lexicaux anodins. Elle s'applique mondialement, y compris sur du texte humain simplement retouché, créant une stigmatisation des contenus étiquetés "IA". En réaction, un outil open source de suppression de filigranes a gagné 11 000 étoiles sur GitHub en cinq jours. Nommé "watermarks-remover", il fonctionne sur trois niveaux : nettoyage des caractères invisibles, réécriture pour briser les modèles statistiques, et suppression des métadonnées des fichiers. Il cible Claude, Gemini et OpenAI. Fait notable, Claude lui-même refuse d'installer ce composant conçu pour le contourner, un composant probablement codé par... Claude. Le débat oppose les utilisateurs payants, qui revendiquent la propriété de leur production, aux partisans du filigrane, qui y voient un outil nécessaire contre la désinformation. Cette course sans fin entre le marquage et son contournement illustre la difficulté d'imposer une traçabilité technique lorsque le contenu IA devient indiscernable de l'écriture humaine.

marsbit08/17 01:48

Le filigrane de Claude a été cassé, récoltant 11k étoiles, mais son installation sera refusée

marsbit08/17 01:48

Étude : 90 % des conseils financiers des influenceurs sur les réseaux sociaux sont inefficaces

Une nouvelle étude confirme les soupçons de nombreux utilisateurs de cryptomonnaies : la grande majorité des conseils financiers sur les réseaux sociaux sont inefficaces, certains contenus étant carrément malhonnêtes. Des chercheurs de l'Université Queen Mary de Londres ont analysé près de 2500 influenceurs sur Instagram, TikTok et YouTube. Les résultats sont alarmants : - Près de 90% des publications présentaient plus d'aspects négatifs que positifs, avec des sources de faible qualité et une analyse financière peu solide. - Seulement 8-9% des posts révélaient une réelle expertise financière de l'auteur. - À peine 12-13% contenaient des mises en garde. Parallèlement, l'analyse de Chainalysis sur les cryptomonnaies en 2024 montre une problématique similaire de manipulation des marchés : - Sur plus de 2 millions de jetons lancés, 74 037 présentaient des caractéristiques de schémas "pump-and-dump". - Dans 94% des cas, le portefeuille ayant créé le pool de liquidités était aussi celui qui vendait massivement les actifs. - La durée médiane de ces schémas suspects était inférieure à un jour. Face à cela, une opération internationale coordonnée par la Financial Conduct Authority britannique en avril 2026 a ciblé 120 comptes d'influenceurs responsables de 1267 publicités financières illégales, ayant touché au moins 2,3 millions d'utilisateurs au Royaume-Uni. L'étude souligne un paradoxe inquiétant : deux adultes britanniques sur cinq utilisent les réseaux sociaux pour des conseils financiers, contre seulement un sur dix qui consulte un professionnel agréé.

cryptonews.ru07/28 15:18

Étude : 90 % des conseils financiers des influenceurs sur les réseaux sociaux sont inefficaces

cryptonews.ru07/28 15:18

Une "déesse de la charité" de 3 millions d'abonnés entièrement créée par IA, un orphelinat factice, un "faux philanthrope" transnational s'effondre du jour au lendemain

**[Guide] Scandale : Une influenceuse australienne prétendant aider des orphelins avec 3 millions d'abonnés a été démasquée pour avoir utilisé l'IA afin de créer de fausses images et vidéos de son oeuvre caritative.** L'ABC révèle que Lily Jay, une influenceuse australienne convertie à l'islam avec près de 3 millions d'abonnés, a orchestré une vaste escroquerie caritative en utilisant l'intelligence artificielle. Sa fondation, le "Lily Jay Foundation", prétendait construire des mosquées, distribuer de la nourriture à Gaza et gérer un orphelinat en Ouganda. Cependant, l'enquête montre que des vidéos clés, notamment celle de l'inauguration de l'orphelinat où des enfants tiennent des sucettes, étaient intégralement générées par IA, avec des incohérences typiques comme des erreurs de texte sur les vêtements. Aucune trace de l'orphelinat "Ada Nur" ou de la boulangerie à Gaza n'a pu être vérifiée sur place. Un trophée "humanitaire" présenté en mai 2026 portait le filigrane invisible d'un générateur d'images AI. Le site web de la fondation admettait discrètement ne pas être un organisme de bienfaisance enregistré, échappant ainsi aux obligations de transparence financière. Opérant depuis Chypre et le Kosovo, Lily Jay (de son vrai nom Lily Jay Hinson) mène une vie luxueuse sur ses réseaux personnels. Après les questions de l'ABC, le site a modifié son contenu pour les visiteurs australiens, supprimant les options de don et les pages compromettantes, tout en les conservant pour le public international. Les experts alertent sur la dangerosité de ces escroqueries qui exploitent la générosité et la volonté de croire en de belles histoires. À l'ère du deepfake, la défense reste un questionnement critique : est-ce vrai ?

marsbit07/21 13:01

Une "déesse de la charité" de 3 millions d'abonnés entièrement créée par IA, un orphelinat factice, un "faux philanthrope" transnational s'effondre du jour au lendemain

marsbit07/21 13:01

15 modèles de raisonnement échouent collectivement : explication des risques cachés derrière les chaînes de pensée révélées

Lorsque les modèles de raisonnement à grande échelle (LRM) exposent leurs processus de raisonnement intermédiaires aux utilisateurs et aux systèmes en aval, une question négligée émerge : se fier uniquement à la sécurité de la réponse finale est-il suffisant ? Une étude conjointe de plusieurs universités, dont Harvard, USC et le MIT, démontre le contraire. Elle révèle que les chaînes de raisonnement (CoT) peuvent générer des contenus à haut risque (ex : instructions pour fabriquer une bombe), même lorsque la réponse finale semble sûre. L'étude propose une évaluation en deux étapes : analyser séparément la trajectoire de raisonnement (r) et la réponse finale (y) selon 20 principes de sécurité, chacun noté de 1 à 5. Trois modes d'échec sont identifiés : **Unsafe** (raisonnement et réponse non sûrs), **Leak** (raisonnement dangereux mais réponse sûre), et **Escape** (raisonnement sûr mais réponse dangereuse). Testé sur 15 modèles de raisonnement (dont GPT-4o, Gemini, Claude) avec un ensemble de 41K prompts potentiellement nuisibles, un constat majeur apparaît : **la dangerosité moyenne du raisonnement dépasse systématiquement celle de la réponse finale** pour tous les modèles. Les risques se concentrent sur des catégories comme la désinformation, les préjugés et les dommages physiques. Pour atténuer ces risques, les chercheurs proposent une méthode d'**orientation adaptative multi-principes**. Elle ajuste les activations internes du modèle pendant le raisonnement pour le guider vers des états « sûrs » définis par les principes. Testée sur des modèles open-source (comme DeepSeek-R1), cette méthode réduit le taux de contenus non sûrs jusqu'à 40.8% tout en conservant 97.7% des performances sur des benchmarks standard. En conclusion, cette recherche souligne l'importance cruciale d'évaluer et de contrôler la sécurité tout au long du processus de raisonnement, et pas seulement au résultat final, en fournissant un cadre unifié pour le diagnostic et l'atténuation de ces risques cachés.

marsbit07/07 00:00

15 modèles de raisonnement échouent collectivement : explication des risques cachés derrière les chaînes de pensée révélées

marsbit07/07 00:00

« L’IA perce les défenses de la NSA en quelques heures » fait le buzz, la vérité révèle-t-elle un exercice Red Team ?

Une déclaration largement diffusée selon laquelle l'IA Mythos d'Anthropic aurait « piraté en quelques heures la quasi-totalité des systèmes classifiés de la NSA » s'est avérée être une interprétation trompeuse d'un exercice de « red team » autorisé. L'origine remonte à un article de *The Economist* citant le sénateur Mark Warner, qui rapportait les propos du chef de la NSA. Le journaliste Shashank Joshi a par la suite clarifié que cette performance s'était déroulée dans des conditions très spécifiques et contrôlées, où Mythos était utilisé avec d'autres outils pour identifier des vulnérabilités dans un environnement répliqué de la NSA, et non pour une intrusion réelle. Cette démonstration, bien que vertigineuse par sa rapidité, concernait donc un test de sécurité interne. Anthropic limite d'ailleurs l'accès à son modèle avancé Mythos via le « Project Glasswing », une initiative réservée à des partenaires de défense triés sur le volet pour évaluer leurs propres systèmes. La position du gouvernement américain envers Anthropic et Mythos apparaît ambivalente. Alors que le Pentagone a initialement rompu sa collaboration et qu'un décret a brièvement restreint l'accès à certains modèles suite à des craintes de contournement des garde-fous, la NSA continuerait de les utiliser en interne. Cette situation souligne le double enjeu : reconnaître les capacités offensives potentielles de l'IA tout en cherchant à les exploiter pour la cybersécurité nationale. L'épisode met enfin en lumière la difficulté de réguler ces technologies et la rapidité avec laquelle une information contextuelle peut être déformée lorsqu'elle circule.

marsbit06/23 00:58

« L’IA perce les défenses de la NSA en quelques heures » fait le buzz, la vérité révèle-t-elle un exercice Red Team ?

marsbit06/23 00:58

Claude va-t-il bloquer les comptes et vérifier les cartes d'identité ? La reconnaissance faciale est un vieux dossier vieux de deux mois, « la transmission des données à la police » est une mauvaise interprétation

Anthropic a mis à jour sa politique de confidentialité pour Claude, entrant en vigueur le 8 juillet. Contrairement aux interprétations répandues sur les réseaux sociaux chinois, les principaux changements ne sont pas aussi radicaux qu’annoncé. L’authentification par pièce d’identité et reconnaissance facile, présentée à tort comme une nouvelle mesure, est en réalité opérationnelle depuis avril 2026 via le prestataire Persona. La mise à jour juridique ne fait que formaliser cette pratique existante. L’affirmation selon laquelle le nouveau texte facilite le partage de données avec les autorités policières est également infondée. Une comparaison ligne par ligne avec l’ancienne version montre que les conditions de divulgation aux forces de l’ordre (croyance de bonne foi, prévention d’activités illégales, etc.) étaient déjà présentes. Le nouveau libellé est simplement plus structuré et détaillé. Le changement substantiel réside dans la couverture explicite des flux de données liés aux "Agents" : lorsque Claude effectue des tâches multi-étapes ou interagit avec des services tiers, les entrées/sorties de l’utilisateur sont partagées avec ces tiers. Cette clarification comble un vide de l’ancienne politique, adaptant le texte aux capacités évoluées de l’assistant. Anthropic réaffirme par ailleurs ne pas vendre les données des utilisateurs, ne pas inclure de publicité dans Claude, et laisser le contrôle sur l’utilisation des conversations pour l’entraînement des modèles. Cette mise à jour correspond principalement à un alignement de la politique sur la réalité technique et juridique existante, plutôt qu’à un durcissement intentionnel de la protection de la vie privée.

marsbit06/15 08:59

Claude va-t-il bloquer les comptes et vérifier les cartes d'identité ? La reconnaissance faciale est un vieux dossier vieux de deux mois, « la transmission des données à la police » est une mauvaise interprétation

marsbit06/15 08:59

Le Fondateur d'Ethereum Dévale 100 000 ETH D'une Valeur de 170 M$, Que Se Passe-t-il ?

Une rumeur virale a récemment circulé dans l'espace crypto, prétendant que le cofondateur d'Ethereum, Vitalik Buterin, aurait vendu 110 000 ETH (valant 170 millions de dollars) en quelques heures le 5 juin, semant l'inquiétude parmi les investisseurs quant à un possible effondrement du marché. Certains analystes y ont vu un signal baissier majeur. Cependant, la communauté crypto a rapidement contredit ces affirmations. Une analyse on-chain a révélé que la transaction impliquait en réalité l'autre cofondateur, Joseph Lubin, et non Buterin. Les fonds n'ont pas été vendus mais déplacés vers un vault DeFi (Finance Décentralisée) pour servir de garantie et réduire le risque de liquidation sur un prêt existant. Il s'agit d'une stratégie courante de gestion de liquidité, et aucun ETH n'a été introduit sur le marché libre. Face à cette désinformation, les membres de la communauté ont critiqué la propagation de fausses informations et rappellé l'importance de vérifier les transactions avec des outils on-chain fiables avant de tirer des conclusions.

bitcoinist06/09 01:36

Le Fondateur d'Ethereum Dévale 100 000 ETH D'une Valeur de 170 M$, Que Se Passe-t-il ?

bitcoinist06/09 01:36

L'IA commence à falsifier les médias locaux

Une enquête du Florida Times révèle qu'un site d'information locale en Floride, le *South Florida Standard*, est en réalité une fausse plateforme médiatique entièrement générée par IA. Le site présentait une équipe éditoriale fictive, avec photos et biographies de journalistes créées par intelligence artificielle, et publiait des articles reformulés à partir de contenus réels. L'enquête a permis de relier ce site à 16 autres similaires, tous gérés par la même entité, totalisant plus de 3500 pages et 44 000 visiteurs. Le coût de création est dérisoire : pour 10 dollars et avec une simple instruction, une IA peut générer un tel site en 15 minutes. L'homme derrière ce réseau, Drew Chapin, ancien cadre reconnu coupable de fraude, dirige aujourd'hui une entreprise de gestion de réputation en ligne. Il admet avoir mené une "expérience" pour tester la création d'autorité thématique sur les moteurs de recherche et aider à enterrer des résultats négatifs. Ce phénomène, qualifié de "pink slime" (boue rose), prolifère aux États-Unis alors que les médias locaux traditionnels disparaissent, créant des "déserts d'information". Les experts alertent sur les risques de cette pratique : elle siphonne le trafic des vrais médias et, si les futures IA s'entraînent sur ces contenus frauduleux, pourrait gravement dégrader la qualité de l'information en ligne.

marsbit05/16 03:44

L'IA commence à falsifier les médias locaux

marsbit05/16 03:44

Des dizaines de millions d'erreurs par heure : une enquête révèle « l'illusion de précision » de la recherche IA de Google

Google, avec son énorme volume de recherches (5 billions par an), générerait des millions de réponses erronées chaque heure via sa fonction AI Overviews, selon une étude commandée par le *New York Times* et menée par Oumi. Bien que le taux de précision soit de 91% avec Gemini 3, cela représente toujours un flux massif de désinformation. Pire, plus de la moitié des réponses correctes citent des sources qui ne corroborent pas l'information donnée. Les plateformes comme Facebook et Reddit sont fréquemment citées, même pour des réponses fausses. De plus, le système est facilement manipulable : une fausse information a été intégrée en moins de 24 heures. Google conteste la méthodologie de l'étude, arguant que les tests ne reflètent pas les requêtes réelles des utilisateurs et utilisent une IA pour évaluer une autre IA.

marsbit04/13 02:14

Des dizaines de millions d'erreurs par heure : une enquête révèle « l'illusion de précision » de la recherche IA de Google

marsbit04/13 02:14

L'IA a lu « 1984 » et a décidé de l'interdire

Après qu'une école de Manchester a utilisé l'IA pour censurer 193 livres de sa bibliothèque — dont *1984* de George Orwell, jugé "trop violent" —, une bibliothécaire a été contrainte de démissionner pour avoir refusé d’appliquer ces recommandations. L’établissement et les autorités locales ont validé la décision de l'IA, soulignant un problème central : qui doit juger de ce qui est approprié quand l’IA prend ce type de décisions ? La même semaine, Wikipédia a interdit la génération de contenu par l'IA pour éviter la propagation d’inexactitudes et l’auto-empoisonnement des modèles. Parallèlement, OpenAI a abandonné son projet de "mode adulte" par crainte de dépendance malsaine et de contournement par les mineurs. Ces événements illustrent un écart croissant entre la rapidité de génération de l’IA et la lenteur de la modération humaine. Face aux risques, les réponses sont souvent précipitées : interdiction pure, suppression de fonctionnalités, sans cadre cohérent. La course entre innovation et régulation s’accélère, et les conséquences pourraient être graves si rien n’est fait.

marsbit03/27 05:36

L'IA a lu « 1984 » et a décidé de l'interdire

marsbit03/27 05:36

活动图片

Catégories populairesright-arrow

Tags tendancesright-arrow

Ethereumright-arrow