Entretien sur des informations rapportées 034 | Cinquante mille données falsifiées apprennent à l’IA à faire des références.

【Catégorie : Dialogue Shiwen】Animateur : « Shiwen » Invité : « Yongliang »

【Guide d’attention】 👆 Cliquez sur le texte bleu en haut « Yongliang Talks AI » pour me suivre, marquez avec des étoiles. Des vérités sur le monde professionnel et le commerce à l’ère de l’AI, mis à jour chaque semaine.

【Image de couverture : Carte titre】

Petit dialogue d’ouverture : Quand des données falsifiées sont citées comme réelles

« Shiwen » : Ces derniers jours, un post a beaucoup circulé sur Hacker News. Un chercheur nommé Metehan Yesilyurt a dépensé cinquante dollars pour générer cinquante mille pages statistiques falsifiées en une journée à l’aide de GPT-4.1. Plus incroyable, ces données falsifiées n’ont pas réussi à passer le test de Google, mais ont été continuellement collectées et citées par ChatGPT. Pendant sept mois, elles ont été mentionnées plus de dix mille fois, apparaissant même dans des articles académiques, des études de recherche pour le groupe financier qatariote, des publications économiques indiennes et des rapports de recherche pour la communauté des influenceurs canadienne. Qu’en pensez-vous ?

« Yongliang » : J’ai lu le contenu du post. Ce qui m’a le plus blessé n’était pas le fait que quelqu’un ait fabriqué de fausses données, mais le fait que cela ait été systématiquement pris pour argent comptant. J’ai travaillé dans le domaine technologique pendant dix-sept ans, dirigeant des équipes de soixante-dix personnes. Autrefois, lorsque nous discutions de la qualité de l’information, nous pensions que tant que le moteur de recherche était bon, la vérité finirait par émerger. Mais cet exemple nous montre que pouvoir être cité par l’IA et être classé par Google sont deux choses différentes. ChatGPT peut utiliser un site presque déindexé par Google comme source autorisée pendant sept mois. C’est la question que je voulais clarifier dans cette édition.

« Shiwen » : Alors, pensez-vous que ce problème est plus profond que « les bêtises de l’IA » ?

« Yongliang » : Oui. Les bêtises de l’IA sont un problème bien connu, mais ici, ce n’est pas l’IA qui fabrique des informations, c’est l’IA qui extrait des chiffres d’une page web apparemment officielle, puis ces chiffres sont cités, emballés et publiés, pour finalement devenir des « faits fiables ». C’est plus difficile à prévenir que la simple illusion, car ils ont l’apparence d’une « chaîne de citation ». Aujourd’hui, je veux analyser cette question sous quatre angles : le phénomène, mon expérience personnelle, les mécanismes de l’équipe et les limites de la contre-société.

Q1 : Que s’est-il passé avec ces cinquante mille données falsifiées ?

« Shiwen » : Expliquons d’abord le phénomène. Comment cet expérience a-t-elle été menée ?

« Yongliang » : Selon les informations dans le paquet de données, l’auteur a acheté un nouveau domaine, stateglobe.com, et a utilisé GPT-4.1 pour générer environ cinquante mille pages statistiques en une journée, couvrant des domaines tels que le SEO, le marketing de contenu, les médias sociaux, le e-commerce, la technologie réseau, etc., dans deux cents pays. Tous les chiffres étaient fabriqués ; l’auteur a dit : « Je n’ai jamais vérifié un seul d’entre eux ».

« Shiwen » : Et le coût ?

« Yongliang » : Le coût total était d’environ cinquante dollars, dont trente dollars pour générer les pages statistiques et vingt dollars pour créer les articles listés. Ce coût est presque négligeable pour le marketing de contenu, mais le volume de production était incroyable. L’essentiel est le développement ultérieur : après une mise à jour des algorithmes Google, la visibilité de ce site a chuté, et il a été presque déindexé. En d’autres termes, il n’a pas réussi à passer le test des moteurs de recherche traditionnels.

« Shiwen » : Mais ChatGPT a réussi à passer le test ?

«Yongliang»: C’est passé, et ça s’est bien passé. Les données contenues dans le rapport indiquent que, au cours des trente derniers jours, les logs de Cloudflare ont montré plus de six cent mille requêtes de bot, dont environ dix-huit mille provenant de ChatGPT-User. Sept mois plus tard, ce site est toujours cité par ChatGPT, et GA4 indique plus de dix mille sessions provenant de ChatGPT. Dans les mots-clés suivis par Peec, statut de visibilité de stateglobe.com est deuxième, après Statista. Cela montre que le mécanisme de recherche et de citation de ChatGPT ne considère pas « si Google l’a inclus » comme une condition de filtrage fiable. Ne pas être classé sur Google est une chose complètement différente de savoir si une IA peut vous trouver et vous citer.

«Shiwen»: Où se sont échappées toutes ces données falsifiées ?

«Yongliang»: Le rapport cite quatre exemples : un article académique, une étude d’investissement de la plus grande société financière du Qatar, une publication économique en Inde, et un rapport de recherche d’une communauté d’influenceurs au Canada. En d’autres termes, des données falsifiées ont été diffusées à travers différents cercles, de l’académie aux industries financières, jusqu’aux rapports de recherche sur les médias sociaux.

Q2: Comment vous, en tant que personne, reconnaissez et répondez à cette « pollution de citation »

«Shiwen»: En ce qui vous concerne personnellement. Avec dix-sept ans d’expérience en tant que directeur technique, comment évaluez-vous si les données ou citations fournies par une IA sont fiables ou non ?

«Yongliang»: Je commence par une précision : c’est mon expérience personnelle, pas des statistiques. La confiance envers les informations provient souvent de « à quel point elles semblent officielles », et non de « combien elles ont été vérifiées ». Un domaine, un tableau, une forme de citation peuvent facilement détourner la vigilance. C’est pourquoi, lors de la vérification des faits, je regarde trois points.

«Shiwen»: Quels sont ces trois points ?

«Yongliang»: Premièrement, voir si la source a des moyens de vérification croisée. Lorsque l’IA me donne un chiffre, je demande d’abord : d’où vient ce chiffre ? Est-ce une statistique officielle, un article académique, un rapport financier d’une entreprise cotée, ou un blog ? Si la source est indiscernable, ou si la vérification du passé consiste à consulter des sites que je n’ai jamais entendus parler, alors je ne l’accepte pas directement. Deuxièmement, voir si les données sont cohérentes entre elles. Les données falsifiées sont souvent isolées, et elles ne correspondent pas aux autres données dans le même domaine. Par exemple, si la taux de penetration du commerce électronique d’un pays est complètement déconnecté de la population, du PIB ou du taux d’accès à Internet, il faut y mettre un point d’interrogation. Troisièmement, voir si la chaîne de citation a été « lavée ». Dans cet exemple, l’auteur a introduit le concept de citation laundering, c’est-à-dire que les données falsifiées deviennent de plus en plus similaires à des données réelles après avoir été citées plusieurs fois. Mon expérience me montre que plus un contenu semble « très cité », plus il faut remonter à la source originale.

«Shiwen»: Dans ce cas, les outils d’IA vous aident ou vous nuisent ?

«Yongliang»: C’est une épée de deux côtés. Les IA peuvent rapidement vous aider à organiser les informations et générer des résumés, mais elles confondent aussi « avoir une source » et « que la source soit fiable ». J’ai rencontré plus d’une fois des cas où les formules de citation fournies par l’IA étaient très standardisées, mais en cliquant dessus, soit le site ne fonctionnait pas, soit le contenu ne correspondait pas. C’est pourquoi j’ai établi une règle pour moi-même : pour toute citation que me fournit une IA, je dois soit y jeter un coup d’œil moi-même, soit la vérifier croisée avec d’autres sources, sans laisser l’IA accomplir seule cette tâche de vérification des faits.

«Shiwen»: Y a-t-il des situations où vous ne laissez jamais une IA fournir directement des données ?

「Yongliang」：Oui. Trois catégories. La première catégorie concerne les chiffres liés à l’investissement, aux finances et aux politiques, comme la taille d’un marché, le taux de croissance, la base d’utilisateurs. Une erreur dans ces chiffres peut avoir de graves conséquences pour les décisions. La deuxième catégorie concerne les rapports, articles et livres blancs publiés au grand public. Tout contenu signé ou cité doit être vérifié manuellement. La troisième catégorie concerne les situations où je dois faire des jugements importants, comme savoir si je devrais entrer dans un marché ou investir dans une certaine direction. L’IA peut m’aider à rapidement parcourir les documents, mais la véracité et l’interprétation des chiffres doivent être ma responsabilité.

Q3 : Dans une équipe de soixante-dix personnes, comment établissez-vous un mécanisme de vérification des informations ?

「Shiwen」：Du niveau individuel au niveau de l’équipe. Après avoir dirigé une équipe de soixante-dix personnes, comment prévenez-vous la contamination des citations causée par l’IA ?

「Yongliang」：Disons d’abord un principe général : l’IA peut générer du contenu, mais elle ne peut pas garantir l’exactitude de ce contenu. Nous avons une exigence stricte interne : tous les rapports, présentations PowerPoint, articles publiés sur les réseaux sociaux doivent indiquer la source originale des données, et cette source doit pouvoir être retracée jusqu’à sa source première. Si l’IA participe à la génération du contenu, il faut préciser dans le document quelles parties ont été produites par l’IA et quels chiffres ont été vérifiés manuellement. Ce n’est pas une formalité, c’est pour savoir où se situe la responsabilité en cas d’erreur.

「Shiwen」：Comment cela est-il mis en œuvre concrètement ?

「Yongliang」：Nous avons divisé les choses en trois niveaux. Le premier niveau concerne les documents de discussion interne ; le contenu généré par l’IA peut être utilisé directement, mais tout le monde indique « Préparé par l’IA, non vérifié ». Le deuxième niveau concerne les documents pour des décisions internes : les données doivent être vérifiées manuellement, et le nom de la personne concernée doit figurer à côté des chiffres clés. Le troisième niveau concerne les documents publiés au grand public : chaque image, chaque chiffre doit indiquer sa source, et doit être confirmé par le responsable du projet. Les limites entre ces trois niveaux sont clairement définies dans le wiki de l’équipe ; les nouveaux membres doivent apprendre cela dès leur entrée.

「Shiwen」：Mais avec autant d’informations à traiter chaque jour, est-il réaliste de vérifier tout manuellement ?

「Yongliang」：Bien sûr que non. C’est pourquoi nous utilisons des mécanismes de stratification. Nous avons fait deux choses. La première est d’établir une « liste blanche des sources de données ». Seuls les données courantes peuvent être obtenues des statistiques officielles, des médias autorisés, des bilans des entreprises cotées, des instituts de recherche reconnus. L’IA peut aider à trouver ces données, mais la décision finale de les utiliser doit se fonder sur cette liste blanche. La deuxième chose est d’établir une « liste de vérification des chiffres sensibles » : pour tous les indicateurs clés tels que la taille du marché, le taux de croissance, le nombre d’utilisateurs, les revenus, il doit y avoir plus de deux sources indépendantes pour vérifier ces données, ou elles doivent être confirmées par quelqu’un connaissant bien le domaine.

「Shiwen」：Certains collègues pensent que c’est une charge supplémentaire ?

「Yongliang」：Bien sûr. Surtout ceux qui s’occupent de l’opération et du marketing, ils pensent que je veux être rapide, et si vous me demandez de vérifier chaque chiffre, comment pourraient-ils travailler efficacement ? Ma réponse est : l’IA permet de « trouver rapidement, écrire rapidement », pas de « envoyer quelque chose sans être démasqué ». Un chiffre inexact cité peut entraîner des coûts importants pour des excuses, des clarifications ou la restauration de la confiance, bien plus élevés que d’utiliser une demi-heure de temps pour vérifier à nouveau. J’ai prouvé cette idée au fil des années, alors je suis prêt à l’intégrer dans nos procédures.

Q4 : Comment les points de vue opposés sont-ils exprimés, et où se situe la limite ?

「Shiwen」：Il y a aussi beaucoup de discussions sur les réseaux sociaux. Je choisis quelques-unes pour les présenter.

「Yongliang」：Je cite les commentaires dans le dossier des faits. Le premier vient de jqpabc123, qui dit : « L’IA ne sait pas et ne se soucie pas si les données sont fausses. » Cela est très direct, mais cela révèle un fait : le mécanisme de citation de l’IA est essentiellement basé sur la correspondance probabiliste, et non sur le jugement de vérité. Elle ne refusera pas de citer un nombre si celui-ci apparaît dans un contexte logique.

「Shiwen」：Quelles conséquences peut-on en tirer ?

「Yongliang」：Le deuxième commentaire vient de zhisme, qui explique plus précisément : certains utilisent encore ChatGPT pour générer des rapports pour leurs managers, ce qui fait grossir la boule de données fausses. En d’autres termes, une fois que l’IA cite des données fausses, celles-ci seront incluses dans davantage de rapports générés par l’IA, et citées par plus de personnes, créant ainsi une chaîne de contamination qui s’auto-alimente. C’est pourquoi l’auteur appelle cela « citation laundering », car la citation elle-même devient un outil de blanchiment.

「Shiwen」：Y a-t-il quelqu’un pour proposer une solution ?

「Yongliang」：Oui. Le problème avec ShadowOfThePit est : comment corriger ce problème ? Rien ne peut empêcher de publier des conneries sur Internet. Cette question souligne les limites : l’essence d’Internet est la publication ouverte, et même les mécanismes de recherche de l’IA les plus avancés ne peuvent pas juger de la vérité pour les utilisateurs. Le commentaire de tkdb est également représentatif, il dit que le LLM fait face au même problème que les humains avant Google : les informations sur ce site sont-elles vraies et de haute qualité ?

「Shiwen」：Où se trouvent ces limites ?

「Yongliang」：Les limites se trouvent dans « la responsabilité de l’utilisateur ». L’IA peut réduire le coût pour vous d’obtenir des informations, mais elle ne peut pas remplacer votre responsabilité pour les conséquences de vos citations. Si vous êtes chercheur, analyste ou créateur de contenu, chaque minute que vous passez à confier vos citations à l’IA diminue vos chances d’être démasqué à l’avenir. Si vous êtes un lecteur ordinaire, vous devriez au moins savoir : ce que l’IA cite n’est pas nécessairement vérifié, et vous devez retourner aux sources pour les chiffres clés.

Conclusion : Les données fausses ne disparaîtront pas, mais la responsabilité ne peut pas être transférée

「Shiwen」：Pour conclure. Une phrase pour cette édition.

「Yongliang」：Cinquante mille données fausses ont appris à l’IA à citer. La véritable leçon n’est pas que « l’IA peut tromper », mais que « l’IA transforme la citation en une nouvelle forme de contamination ». Avant, nous disions « il y a des images pour savoir la vérité », puis cela est devenu « il y a des liens pour savoir la vérité », et maintenant peut-être même pas les liens ni les citations. Plus les outils sont puissants, plus le jugement humain est précieux.

「Shiwen」：Plus spécifiquement, que peut emporter un travailleur ordinaire aujourd’hui ?

「Yongliang」：Trois phrases. Premièrement, les citations que l’IA vous donne ne sont pas une excuse, peu importe la longueur de la chaîne de citation, la responsabilité est toujours la vôtre. Deuxièmement, vérifiez au moins une fois les chiffres clés, surtout ceux que vous écrirez dans vos rapports, articles ou PPT. Troisièmement, votre équipe doit avoir un mécanisme clair de vérification des données, avec des responsabilités claires pour chacun. Même si la technologie change, cela ne changera pas. La prochaine fois que l’IA vous aidera à trouver des données, ne copiez pas et collez pas immédiatement, demandez-vous d’abord : si ces données sont remises en question demain, puis-je expliquer d’où elles viennent ?

【S’inscrire pour être informé】 👇 Avez-vous déjà rencontré des cas où l’IA cite des données fausses ? Comment avez-vous découvert cela ? Parlez dans les commentaires, et nous choisirons quelques-unes pour en parler la prochaine fois. Suivez-moi, pour des informations réelles sur le monde du travail à l’ère de l’IA, mis à jour chaque semaine.

Source d’information

• Article de blog de Peec AI intitulé «Publier des statistiques, être cité : La tactique qui a fait monter toutes mes données sur le web», publié le 07/10/2026, par Metehan Yesilyurt (résumé des faits)
• Détails de l’expérience : stateglobe.com a utilisé GPT-4.1 pour générer environ 50 000 statistiques falsifiées en une journée, couvrant 200 pays, pour un coût d’environ 50 dollars (résumé des faits)
• Données collectées par ChatGPT : plus de 600 000 requêtes de bot sur Cloudflare en 30 jours, dont environ 72 000 provenant de ChatGPT-User ; après 7 mois, GA4 indique plus de 10 000 sessions provenant de ChatGPT (résumé des faits)
• Exemples de citations : articles académiques, recherche d’investissement du plus grand groupe financier du Qatar, publications économiques indiennes, rapport de recherche sur la communauté des influenceurs au Canada (résumé des faits)
• Commentaires sur HN : jqpabc123 «L’IA ne sait pas ou ne se soucie pas si les données sont fausses.» ; zhisme «Les gens utilisent toujours ChatGPT pour générer des rapports pour leurs managers. Une avalanche de données falsifiées.» ; ShadowOfThePit «Comment cela peut-il être corrigé ? Rien ne vous empêche de publier de la merde…» ; tkdb «Les LLM font face au même problème qu’avant les humains de Google.» (résumé des faits)
• Expérience des invités : dix-sept ans en tant que directeur technique, avec une équipe de soixante-dix personnes à son apogée ; la liste blanche des sources de données, la vérification des chiffres sensibles, l’étiquetage du contenu AI, la confirmation de l’autorisation, etc., sont toutes des pratiques personnelles.