BLOG
拾闻对谈 034｜五万个假数据教会 AI 引用
【栏目：拾闻对谈】主持人：「拾闻」 嘉宾：「永亮」
【关注引导】 👆 点上方蓝字「永亮说AI」关注我，加星标，AI 时代的职场与商业实话，每周更新。
【封面图：标题卡】
开场小对谈：当假数据被当真引用
「拾闻」：这两天 Hacker News 上有一条帖子很火，一位叫 Metehan Yesilyurt 的研究员花五十美元，用 GPT-4.1 在一天之内生成了五万个虚假统计页面。更离谱的是，这些假数据没有通过 Google 这一关，却被 ChatGPT 不断抓取和引用，七个月里带来了一万多次会话，甚至还出现在学术论文、卡塔尔金融集团的投资研究、印度经济学出版物和加拿大 influencer 社区的研究报告里。你怎么看这件事？
「永亮」：这条帖子我读的是事实包里的内容。它最刺痛我的地方不是「有人造假」，而是「造假被系统性地当真了」。我做了十七年技术，最多的时候管过七十人团队，过去我们讨论信息质量，总觉得只要搜索引擎够好，真相总会在前面。现在这个案例告诉我们：能被 AI 引用和能被 Google 排名，已经是两回事了。ChatGPT 可以把一个几乎被 Google deindex 的网站，当成权威来源引用七个月。这是今天这期最想拆开聊清楚的一件事。
「拾闻」：所以你觉得这个问题比「AI 胡说八道」更深层？
「永亮」：对。AI 胡说八道是大家熟悉的毛病，但这里不是 AI 在编，是 AI 从一个看起来很正式的网页里取了数字，然后这个数字被一层层引用、包装、发布，最后变成「有来源的事实」。这比单纯的幻觉更难防，因为它有「引用链」的外衣。今天我想从现象、个人经验、团队机制、反方边界四个角度，把这个问题拆开看看。
Q1：这五万个假数据，到底发生了什么
「拾闻」：先把现象讲透。这个实验是怎么操作的？
「永亮」：按事实包里的信息，作者买了一个全新域名 stateglobe.com，然后用 GPT-4.1 在一天内批量生成了大约五万个统计页面，覆盖 SEO、内容营销、社交媒体、电商、网络技术等两百个国家。所有数字都是编造的，作者原话是「I never checked a single one」。
「拾闻」：成本呢？
「永亮」：总成本约五十美元，其中三十美元用于生成统计页面，二十美元用于生成列表文章。这个成本放在内容营销里几乎可以忽略不计，但产出量惊人。关键是后续发展：Google 算法更新后，这个站的搜索可见度崩塌，几乎被 deindex。也就是说，传统搜索引擎这一关，它没过去。
「拾闻」：但 ChatGPT 这一关过去了？
「永亮」：过去了，而且过得很好。事实包里的数据是：过去三十天，Cloudflare 日志显示有超过六十万次 bot 请求，其中约七万两千次来自 ChatGPT-User。七个月后，这个站仍然被 ChatGPT 引用，GA4 显示来自 ChatGPT 的会话超过一万次。在 Peec 追踪的提示词中，stateglobe.com 的可见度排名第二，仅次于 Statista。这说明 ChatGPT 的检索和引用机制，并没有把「Google 是否收录」当成可靠的过滤条件。在 Google 上排不上号，和 AI 能不能找到并引用你，已经是两件不同的事。
「拾闻」：这些假数据都流到哪了？
「永亮」：事实包里列了四个例子：一篇学术论文、卡塔尔最大金融集团的投资研究、印度一份经济学出版物、加拿大某 influencer 社区的研究报告。也就是说，从学术界到金融行业，再到自媒体研究报告，假数据已经完成了跨圈层传播。
Q2：你个人怎么识别和应对这种「引用污染」
「拾闻」：切到你个人。十七年技术总监经验，你平时怎么判断 AI 给出来的数据或引用靠不靠谱？
「永亮」：我先说前提：这是我的经验，不是统计。人对信息的信任往往来自「它看起来有多正式」，而不是「它经过多少验证」。一个域名、一个表格、一段引用格式，很容易让人放松警惕。所以我做事实核查时看三点。
「拾闻」：哪三点？
「永亮」：第一，看来源是否有可交叉验证的路径。AI 给我一个数字，我会先问：这个数字最初出自哪里？是官方统计、学术期刊、上市公司财报，还是某个博客？如果来源不可追溯，或追溯过去是一个我从未听说过的站点，那我就不会直接采信。第二，看数据是否有内部一致性。假数据经常是孤立的，它和同一个领域的其他数据对不上。比如一个国家的电商渗透率，如果和该国人口、GDP、互联网普及率完全脱节，那就得打个问号。第三，看引用链是否被「洗过」。这个案例里作者提出了 citation laundering 的概念，就是假数据被反复引用后，看起来越来越像真的。我的经验是，越看起来「引用很多」的内容，越要追到最早的那一手来源。
「拾闻」：那 AI 工具在这个过程中是帮你还是害你？
「永亮」：双刃剑。AI 可以很快地帮你整理信息、生成摘要，但它同时也会把「有来源」和「来源可靠」混为一谈。我遇到过不止一次，AI 给出的引用格式非常规范，但点进去要么打不开，要么内容对不上。所以我给自己定了一条规矩：AI 给我的任何引用，我都要么自己点进去看一眼，要么用其他来源交叉验证，不会让 AI 独立完成事实核查这件事。
「拾闻」：有没有哪些场景你绝对不会让 AI 直接提供数据？
「永亮」：有。三类。第一类是涉及投资、金融、政策的数字，比如一个市场的规模、增长率、用户基数。这些数字一旦出错，决策代价很大。第二类是用于对外发布的报告、论文、白皮书。任何会署名、会被引用的内容，数据必须经人工核实。第三类是我要据此做重要判断的场景，比如要不要进入某个市场、要不要投某个方向。AI 可以帮我快速扫一遍材料，但数字的真伪和解读，必须我负责。
Q3：七十人团队里，你怎么建立信息核查机制
「拾闻」：从个人上升到团队。你管过七十人，团队里怎么防止 AI 带来的引用污染？
「永亮」：先说一条总原则：AI 可以生成内容，但不能为内容的准确性背书。我们内部有一个硬性要求，所有对外发布的报告、PPT、公众号文章，数据必须标注原始来源，并且这个来源要能追溯到一手出处。如果 AI 参与了内容生成，必须在文档里说明哪些部分使用了 AI，哪些数字经过了人工核对。这不是形式，是为了在出错的时候知道责任边界在哪。
「拾闻」：具体怎么落地？
「永亮」：我们当时分了三档。第一档是内部讨论材料，AI 生成的内容可以直接用，但大家会标注「AI 初稿，未核」。第二档是对内决策材料，数据必须有人核过，核心数字旁边要有人名。第三档是对外发布材料，每一张图、每一个数字都要能说出出处，并且由项目负责人签字确认。这三档的边界在团队 wiki 里写得清楚，新人入职先学这个。
「拾闻」：但团队每天要处理那么多信息，全部人工核对不现实吧？
「永亮」：当然不现实，所以要用机制来分层。我们当时做了两件事。第一件事是建了一个「数据源白名单」。常用数据只允许从官方统计、权威媒体、上市公司财报、知名研究机构这几类来源取。AI 可以帮忙找，但最终采不采用，必须对照白名单。第二件事是建立「敏感数字复核清单」，凡是涉及市场规模、增长率、用户数、收入这些关键指标，必须有两处以上独立来源交叉验证，或者由熟悉这个领域的人确认。
「拾闻」：有同事觉得这是增加负担吗？
「永亮」：肯定有。尤其做运营和市场的人，会觉得我就是要快，你让我每个数字都核对，效率怎么办？我的回应是：AI 提的是「找得快、写得快」的效，不是「发出去不被打脸」的效。一个不准确的数字被引用出去，后续辟谣、澄清、挽回信任的成本，远远高于你多花半小时核对一次。我带团队这么多年，这个道理是反复验证过的，所以我敢把它写进流程里。
Q4：反方观点怎么说，边界在哪里
「拾闻」：HN 上也有不少讨论。挑几条有代表性的说说。
「永亮」：我按事实包里的评论转述。第一条来自 jqpabc123，大意是：AI 不知道也不在乎数据是不是假的。这句话很直白，但点破了一个事实：AI 的引用机制本质上是概率匹配，不是真假判断。它不会因为某个数字是编的就拒绝引用，只要这个数字出现在一个看起来合理的上下文里。
「拾闻」：这个判断会带来什么后果？
「永亮」：第二条评论来自 zhisme，他说得更具体：现在还有人用 ChatGPT 给经理生成报告，假数据的雪球会越滚越大。也就是说，一旦 AI 引用了假数据，这个假数据会进入更多 AI 生成的报告，再被更多人引用，形成自我强化的污染链。这也是为什么作者把它叫做 citation laundering，因为引用本身变成了洗白工具。
「拾闻」：有没有人从解决方案角度说？
「永亮」：有。ShadowOfThePit 的问题是：这问题怎么修？没有任何东西能阻止你在网上直接发胡说八道。这个反问点出了边界：互联网的本质就是开放发布，AI 检索机制再先进，也没法替用户做所有真假判断。tkdb 的评论也很有代表性，他说 LLM 现在面临的问题，和人类在 Google 出现之前面临的问题一样：这个网站上的信息是真的、高质量的吗？
「拾闻」：那边界在哪？
「永亮」：边界在「使用者的责任」。AI 可以降低你获取信息的成本，但不能替代你承担引用后果。如果你是一个研究员、分析师、内容创作者，你在 AI 给你的引用上多花的每一分钟，都是在降低自己未来被打脸的概率。如果你是一个普通读者，你至少要知道：AI 引用的东西未必经过验证，关键数字要回到源头去看。
结语：假数据不会消失，但责任不能移交
「拾闻」：最后收个尾。给今天这期一句话。
「永亮」：五万个假数据教会 AI 引用，这件事真正的教训不是「AI 会骗人」，而是「AI 正在把引用变成一种新的污染形式」。以前我们说「有图有真相」，后来变成「有链接有真相」，现在可能连链接和引用都不够了。工具越强大，人的判断越值钱。
「拾闻」：再具体一点，普通职场人今天能带走什么？
「永亮」：三句话。第一，AI 给你的引用，不是免责金牌，引用链再长，最终责任还是在你。第二，关键数字至少交叉验证一次，尤其是会被你写进报告、论文、PPT 的那些。第三，团队里要有明确的数据核查机制，谁主张、谁署名、谁负责。技术再变，这条不会变。下次让 AI 帮你找数据的时候，别急着复制粘贴，先问自己一句：如果这个数据明天被人质疑，我能讲清楚它从哪来吗？
【关注引导】 👇 你遇到过 AI 引用假数据的情况吗？是怎么发现的？评论区聊聊，下期挑几条接着说。关注我，AI 时代的职场实话，每周更新。
信息来源
- Peec AI 博客文章《Publish stats, get cited: The tactic that put my data all over the web》，2026-10-07 发布，作者 Metehan Yesilyurt（事实包转述）
- 实验细节：stateglobe.com 用 GPT-4.1 一天内生成约 50,000 条虚假统计页面，覆盖 200 个国家，成本约 50 美元（事实包转述）
- ChatGPT 抓取数据：30 天 Cloudflare 日志 >600,000 次 bot 请求，其中约 72,000 次来自 ChatGPT-User；7 个月后 GA4 显示 10,000+ 会话来自 ChatGPT（事实包转述）
- 被引用实例：学术论文字、卡塔尔最大金融集团投资研究、印度经济学出版物、加拿大 influencer 社区研究报告（事实包转述）
- HN 评论池：jqpabc123「AI doesn’t know or care if the data is fake.」、zhisme「people still use chatgpt to generate reports for their managers. snowball of fake data」、ShadowOfThePit「How can this be fixed? Nothing prevents you from publishing straight BS…」、tkdb「LLMs are facing the same problem pre-google humans faced」（事实包摘要转述）
- 嘉宾经验：十七年技术总监，峰值七十人团队；数据源白名单、敏感数字复核、AI 内容标注、署名确认等均为个人实践