BLOG
AI安全定义权：同一天，三方各自定义「AI危险」
开场：四十八小时里，三种人抢着定义「AI 危险」
9 月 14 日到 17 日，四十八小时出头的窗口里，三种原本坐不到一张桌子上的人，先后对同一件事开口：AI 到底危险不危险，危险在哪，谁来管。9 月 14 日，特朗普公开把 AI 风险的讨论称作「病态阴谋」和「骗局」。9 月 17 日，联合国秘书长古特雷斯在联合国大会期间呼吁全球合作为 AI 设护栏。夹在中间的同一天，微软 AI 负责人 Mustafa Suleyman 关于竞对产品 Claude 的言论被财新摆上 9 月 17 日 T 早报的头条位置。而再往前翻，纽约时报中文网 9 月 17 日刊发了一篇署名专栏，作者 Seth Center 是美国前国务院特使，曾共同主导 2024 年 5 月首轮美中 AI 对话——他的标题写得更直白：《中国不在乎人工智能安全，它只想赢》。
一个前外交官在谈判桌上谈安全，联合国在多边框架里谈安全，一家科技公司的高管对着竞对的产品谈安全。三个人说的都是「安全」，但说的根本不是同一件事。这期的主线就一句话：AI 安全从来不是技术共识，它是定义权——谁定义危险，谁就握住后面所有的谈判、立法和预算。
拾闻：一周之内三方同题发声，巧合吗？
永亮：时间点确实巧，但巧的不是他们，是议题本身。当「安全」这个词同时出现在谈判桌、联合国讲台和竞对高管的嘴里，说明它已经从一个技术词变成了一个权力词。咱们今天就聊透：他们各自在说什么，这些说法落到企业里会变成什么成本，以及「安全」在汇报里是怎么被当成筹码用的。
Q1：先理清时间线——这四十八小时里到底发生了什么？
永亮：三件事按时间排开，你会发现它们是三种完全不同的「安全」。
9 月 14 日，特朗普公开淡化 AI 风险，把推动 AI 护栏的说法称作「SICK conspiracy」（病态阴谋），把 AI 风险本身称作「hoax」（骗局），这个口径有多个信源一致。9 月 17 日，古特雷斯在联合国大会期间呼吁全球合作为 AI 设护栏，强调国际合作的必要性——这和特朗普的表态正好顶在两头。还是 9 月 17 日，财新 T 早报头条转述：微软 AI 负责人警告 Claude 拟人化训练存失控风险。而纽时中文网同一天的专栏里，前外交官 Seth Center 直接断言「中国不在乎人工智能安全，它只想赢」。把四件事摆在一起看：政治人物说安全是阴谋，联合国说安全是护栏，企业高管说竞对的产品是威胁，前外交官说对手只在乎赢。同一个词，四种用法。这不是吵技术，这是在抢定义。
Q2：先聊谈判桌——那位前外交官到底说了什么？
永亮：先把口径摆清楚：这是他单方的自述视角，我引用的地方都会带上这个限定。在这个前提下，他的叙述值得认真读，因为谈判桌的细节平时根本看不到。
按专栏里的说法，Seth Center 曾共同主导 2024 年 5 月的首轮美中 AI 对话，那次议程由两国元首商定，聚焦高级 AI 系统的风险与安全合作。按文中自述，中方官员在数小时内回避风险议题，不愿解释国内 AI 法规——现场明明有监管官员在场；中方反问美方「为何想谈 AI 风险」；中方指责美方拿安全策略当释放技术机遇的屏障、当阻止较穷国家获取 AI 的手段；中方还提议开子对话，他的评价是这可能引发无休止的程序外交。请注意，以上全部是作者单方视角，中方没有对应的公开回应。他文章的预测部分也标清楚是他的个人观点：他预测中国将淡化安全风险、拿安全合作的可能性当筹码换取放宽芯片管制，继续塑造「无私救世主」形象争取发展中国家。但他自己在文里也承认了两个反例——习近平公开谈过 AI 风险与失控问题，他也承认「也许中国会摒弃旧的套路」。我认为这篇专栏真正有价值的不是结论，是它展示的谈判桌常态：安全在谈判里从来不是一个纯粹的议题，它是交换条件的一部分。
Q3：联合国和特朗普顶在两头——多边框架和「骗局论」，企业该听谁的？
永亮：短期看政治风向，长期看流水线上的要求——而流水线上的要求，两边惊人的一致。
古特雷斯 9 月 17 日在联合国大会期间呼吁全球合作为 AI 设护栏，这是多边框架的标准动作：把风险定义成全球公共问题，再由国际组织收拢成规则。特朗普 9 月 14 日的表态则是另一个极端：把护栏讨论本身定义为阴谋。企业夹在中间，很容易觉得无所适从。但以我十七年的经验看，企业真正要回答的从来不是「哪边对」，而是两个具体问题：第一，监管要求会不会落到我头上、什么时候落；第二，我的客户开始用什么标准筛供应商。第一个问题，多边框架的节奏慢，但单边立法和行政令的节奏不慢。第二个问题更实在：不管华盛顿和纽约怎么吵架，甲方采购表里的安全问卷一年比一年长。政治人物定义风向，采购经理定义订单——对企业来说，后者的分量一点不轻。
Q4：竞对高管警告竞对产品——Suleyman 这波言论该怎么读？
永亮：先把口径说清楚：原始音视频我没有拿到，以下全部按媒体转述口径，财新 9 月 17 日 T 早报头条转述为「微软 AI 负责人警告 Claude 拟人化训练存失控风险」。
按媒体转述，微软 AI CEO Mustafa Suleyman 在 8 月底称，Anthropic 教 Claude「意识」是一个 mistake（错误），「现在更难关掉它」（a lot harder to turn it off），还称 Claude 可能是「对人类潜在的灾难性威胁」（catastrophic threat to humanity）。这段言论在 9 月中旬持续发酵。读这段话，有三层不能混。第一层是产品伦理之争：给 AI 做拟人化训练到底是在增强体验还是在制造不可控性，这是行业里真实的分歧。第二层是竞争位置：微软和 OpenAI 深度绑定，同时和 Anthropic 是直接的竞品关系——警告竞对产品有风险，这句话永远有两重身份，既是观点，也是竞争动作。第三层才是最有意思的：一个绑定最深的大厂高管，公开谈论「关掉一个 AI 变难了」，这本身就说明「能不能关掉」已经从科幻问题变成了产品问题。读者不用急着判断他说得对不对，先看清楚立场再听观点，这两步顺序不能反。
Q5：落到企业里——安全的真实成本是什么？它在汇报里怎么被当筹码用？
永亮：这是这期我最想讲的部分。安全治理有真金白银的成本，也有几乎零成本的口号成本，而汇报的艺术，往往在于把后者包装成前者。
企业安全治理的真实成本至少四块：合规，把产品线对齐各地法规，这是一支专职团队年年重复的活；审计，内部查完外部查，每一笔都要留痕；红队，雇人天天攻击自己的系统，攻不穿也要付钱；事故响应，真出事的时候，响应速度直接决定公司活不活得下去。我管过医院集团的技术，那种环境教会我一件事：安全不是 PPT 上的形容词，是凌晨两点有人接电话。而口号成本呢？发一篇安全承诺书、改一页官网标语、在发布会上加一段价值观陈述，几乎不花钱。问题出在汇报里：当「安全」成为向上争取资源的筹码，数字就会开始漂移——把口号包装成治理，把治理的预期说得比实际厚。「安全」在汇报里被当筹码的典型用法有三种：预算季讲危险，立项时讲合规，出事前讲价值观。怎么分辨对方讲的是真成本还是口号成本？问三个问题就够了：今年安全上实际花了多少钱、花在哪个环节；出过几次事故、响应花了多久；砍掉一半安全预算会发生什么。能答上来的，是在做治理；答不上来的，是在做叙事。至于中美叙事的差异怎么体现在采购层面，我见过的最直接形态是：同一份产品，国内客户问的是「出了事谁负责」，海外客户问的是「你的合规清单给我一份」——一个是责任问题，一个是清单问题，背后是两套对「安全」的定义在买单。
尾声
拾闻：最后，用一句话总结这期？
永亮：当「安全」从实验室走向谈判桌、讲台和发布会，它就不再是一个技术问题了——谁定义危险，谁定义预算，谁定义谁能干这行。看新闻的时候先问一句：这话是谁在什么位置上说的，答案就清楚了。
拾闻：这句话，送给大家。下期见。
【技术纵深】企业安全治理的钱到底花在哪：合规、审计、红队、事故响应
这期的主线是「安全是定义权」。给想再深一步的读者拆一层：企业安全治理的真实成本到底由哪几块构成，为什么它们每一件都比口号贵得多。
合规：对齐各地法规的专职团队。 AI 产品卖到不同法域，要面对不同的监管要求。合规团队把产品逐项对齐这些要求，并年年跟进法规变化。这笔人力成本省不掉，因为它直接决定产品能不能在那个市场卖。
审计：内部查完外部查，全部要留痕。 内部审计查流程，外部审计出报告，大客户还会派自己的团队来查。审计的价值不在报告厚度，在每一笔结论都能回溯到证据——这也是它和口号成本的本质区别：口号不留痕，审计必须留痕。
红队：雇人天天攻击自己的系统。 红队的逻辑很简单——与其等别人来攻，不如自己先攻。攻不穿也要付钱，因为付钱买的不只是漏洞清单，是对自身防线持续的、有压力的认知。这一块的投入和产出之间隔着时间差，恰恰是汇报里最容易被砍、也最容易后悔的部分。
事故响应：出事的时候，速度决定生死。 前面三块是平时的功夫，这一块是战时的功夫。响应团队、预案演练、降级方案、客户沟通，平时看不见，真出事的时候每一分钟都在烧钱。我经历过医院系统凌晨挂掉的时刻，那种环境下对「安全成本」的理解，和在会议室里看预算表完全不是一回事。
回到本期主线：定义权之争最后都会变成预算之争——安全一旦有了明确的定义，花钱就有了名目；定义模糊的时候，钱就只能花在口号上。
本期信息来源
- NYT中文网 2026-09-17 评论《中国不在乎人工智能安全，它只想赢》（作者 Seth Center，前美国国务院特使；对话细节与预测均为作者单方自述口径）
- Washington Times / WSLS / KSAT 2026-09-14：特朗普「SICK conspiracy / hoax」表态（多源一致）
- 新华网 2026-09-17 等多源：古特雷斯联合国大会期间呼吁全球合作为 AI 设护栏
- 财新 2026-09-17 T 早报头条：Suleyman 关于 Claude 拟人化训练的警告（媒体转述口径）
- 公开报道：微软与 OpenAI 深度绑定、与 Anthropic 竞品关系