Le pouvoir de définir la sécurité de l'IA : le même jour, trois parties définissent chacune « le danger de l'IA »

Ouverture : En quarante-huit heures, trois profils se disputent le droit de définir le « danger de l’IA »

Du 14 au 17 septembre, dans une fenêtre d’un peu plus de quarante-huit heures, trois personnes qui n’auraient normalement pas pu s’asseoir à la même table ont pris la parole successivement sur le même sujet : l’IA est-elle dangereuse ou non, où réside le danger, et qui doit la réguler. Le 14 septembre, Trump a publiquement qualifié les discussions sur les risques de l’IA de « complot morbide » et d’« arnaque ». Le 17 septembre, le Secrétaire général de l’ONU, Guterres, a appelé à la coopération mondiale pour établir des garde-fous pour l’IA lors de l’Assemblée générale des Nations Unies. Le même jour, pris en étau, les propos de Mustafa Suleyman, responsable de l’IA chez Microsoft, concernant le produit concurrent Claude ont été placés en une du T Morning Post de Caixin le 17 septembre. Et si l’on remonte un peu plus loin, le site chinois du New York Times a publié une chronique signée le 17 septembre ; l’auteur, Seth Center, ancien envoyé spécial du département d’État américain, a co-dirigé le premier dialogue américano-chinois sur l’IA en mai 2024 — son titre est encore plus explicite : « La Chine ne se soucie pas de la sécurité de l’IA, elle veut juste gagner ».

Un ancien diplomate parle de sécurité à la table des négociations, l’ONU en parle dans un cadre multilatéral, et un dirigeant d’une entreprise technologique en parle au sujet d’un produit concurrent. Les trois parlent de « sécurité », mais ils ne parlent absolument pas de la même chose. Le fil conducteur de ce numéro se résume en une phrase : la sécurité de l’IA n’a jamais été un consensus technique, c’est un pouvoir de définition — celui qui définit le danger tient entre ses mains toutes les négociations, législations et budgets qui suivent.

Shiwen : Trois parties s’expriment sur le même sujet en l’espace d’une semaine, est-ce une coïncidence ?

Yongliang : Le moment est certes opportun, mais la coïncidence ne réside pas en eux, elle est dans le sujet lui-même. Lorsque le mot « sécurité » apparaît simultanément à la table des négociations, sur la tribune de l’ONU et dans la bouche d’un cadre concurrent, cela prouve qu’il est passé d’un terme technique à un terme de pouvoir. Nous allons décortiquer cela aujourd’hui : ce que chacun d’eux dit, quels coûts ces propos représentent pour les entreprises, et comment la « sécurité » est utilisée comme monnaie d’échange dans les rapports.

Q1 : Clarifions d’abord la chronologie — que s’est-il exactement passé au cours de ces quarante-huit heures ?

Yongliang : Si l’on dispose ces trois événements dans l’ordre chronologique, vous découvrirez qu’ils représentent trois types de « sécurité » totalement différents.

Le 14 septembre, Trump a publiquement minimisé les risques liés à l’IA, qualifiant l’idée de mettre en place des garde-fous pour l’IA de « SICK conspiracy » (complot malade), et qualifiant les risques de l’IA eux-mêmes de « hoax » (canular), une position confirmée par plusieurs sources. Le 17 septembre, Guterres a appelé à la coopération mondiale pour établir des garde-fous pour l’IA lors de l’Assemblée générale des Nations Unies, soulignant la nécessité de la coopération internationale — ce qui s’oppose directement à la déclaration de Trump. Toujours le 17 septembre, le titre du T Morning Post de Caixin rapportait : le responsable de l’IA chez Microsoft a averti que l’entraînement d’anthropomorphisation de Claude présentait des risques de perte de contrôle. Dans une chronique du même jour sur le site chinois du New York Times, l’ancien diplomate Seth Center a affirmé sans équivoque que « la Chine ne se soucie pas de la sécurité de l’intelligence artificielle, elle veut juste gagner ». Si l’on examine ces quatre événements ensemble : les politiciens disent que la sécurité est un complot, l’ONU dit que la sécurité est un garde-fou, les dirigeants d’entreprise disent que le produit du concurrent est une menace, et l’ancien diplomate dit que l’adversaire ne veut que gagner. Le même mot, quatre usages. Ce n’est pas une dispute technique, c’est une lutte pour la définition.

Q2 : Parlons d’abord de la table de négociation — qu’a dit exactement cet ancien diplomate ?

Yongliang : D’abord, clarifions le cadre : il s’agit de sa propre perspective narrative, et je l’indiquerai comme une réserve chaque fois que je le citerai. Sous cette réserve, son récit mérite d’être lu attentivement, car les détails de la table de négociation sont généralement invisibles.

Selon la chronique, Seth Center a co-dirigé le premier dialogue sino-américain sur l’IA en mai 2024, un agenda convenu par les chefs d’État des deux pays, se concentrant sur les risques des systèmes d’IA avancés et la coopération en matière de sécurité. Selon son propre récit, les responsables chinois ont évité les sujets liés aux risques pendant plusieurs heures, refusant d’expliquer les réglementations nationales sur l’IA — alors que des responsables réglementaires étaient clairement présents sur place ; la partie chinoise a rétorqué à la partie américaine : « Pourquoi voulez-vous discuter des risques de l’IA ? » ; la partie chinoise a accusé la partie américaine d’utiliser les stratégies de sécurité comme une barrière à la libération des opportunités technologiques et comme un moyen d’empêcher les pays plus pauvres d’accéder à l’IA ; la partie chinoise a également proposé d’ouvrir des sous-dialogues, ce qu’il a évalué comme susceptible de déclencher une diplomatie procédurale sans fin. Veuillez noter que tout ce qui précède provient de la perspective unilatérale de l’auteur, et qu’il n’y a pas de réponse publique correspondante de la part de la Chine. La section prévisionnelle de son article indique également clairement qu’il s’agit de son opinion personnelle : il prédit que la Chine minimisera les risques de sécurité, utilisera la possibilité d’une coopération en matière de sécurité comme monnaie d’échange pour obtenir un assouplissement des contrôles sur les puces, et continuera à façonner une image de « sauveur désintéressé » pour gagner les pays en développement. Mais il admet lui-même deux contre-exemples dans son texte — Xi Jinping a publiquement évoqué les risques de l’IA et la question de sa perte de contrôle, et il admet également que « peut-être que la Chine abandonnera les vieilles méthodes ». Je pense que ce qui a vraiment de la valeur dans cette chronique n’est pas la conclusion, mais la normalité de la table de négociation qu’elle révèle : la sécurité n’est jamais un sujet pur dans les négociations, elle fait partie des conditions d’échange.

Q3 : L’ONU et Trump à l’opposé — Cadres multilatéraux et « théorie de l’arnaque », qui les entreprises doivent-elles écouter ?

Yongliang : À court terme, il faut regarder la tendance politique ; à long terme, les exigences de la chaîne de production — et les exigences de la chaîne de production sont étonnamment cohérentes des deux côtés.

Le 17 septembre, Guterres a appelé à la coopération mondiale pour établir des garde-fous à l’IA lors de l’Assemblée générale de l’ONU ; c’est l’action standard des cadres multilatéraux : définir les risques comme un problème public mondial, puis les consolider en règles par les organisations internationales. La déclaration de Trump le 14 septembre représente l’autre extrême : définir la discussion sur les garde-fous elle-même comme un complot. Les entreprises, prises en étau entre les deux, se sentent facilement désorientées. Mais selon mes dix-sept ans d’expérience, la question à laquelle les entreprises doivent vraiment répondre n’a jamais été « qui a raison », mais deux questions concrètes : premièrement, les exigences réglementaires vont-elles m’impacter et quand ; deuxièmement, quels critères mes clients commencent-ils à utiliser pour filtrer les fournisseurs. Pour la première question, le rythme des cadres multilatéraux est lent, mais celui de la législation unilatérale et des ordres exécutifs ne l’est pas. La deuxième question est plus concrète : peu importe la querelle entre Washington et New York, les questionnaires de sécurité dans les formulaires d’achat des clients s’allongent d’année en année. Les hommes politiques définissent les tendances, les responsables des achats définissent les commandes — pour les entreprises, le poids de ces derniers n’est pas moindre.

Q4 : Un dirigeant rival avertit sur un produit concurrent — Comment interpréter cette déclaration de Suleyman ?

Yongliang : D’abord, clarifions la version des faits : je n’ai pas eu accès à l’audio ou à la vidéo originaux ; tout ce qui suit est basé sur les rapports des médias. La une du T Morning Post de Caixin du 17 septembre rapporte que « Le responsable de l’IA de Microsoft avertit que l’entraînement à l’anthropomorphisme de Claude présente un risque de perte de contrôle ».

Selon les médias, Mustafa Suleyman, PDG de l’IA chez Microsoft, a déclaré fin août qu’il était une erreur (mistake) de la part d’Anthropic d’enseigner la « conscience » à Claude, qu’il est « beaucoup plus difficile de l’éteindre maintenant » (a lot harder to turn it off), et a affirmé que Claude pourrait constituer une « menace catastrophique potentielle pour l’humanité » (catastrophic threat to humanity). Ces propos ont continué à faire polémique à la mi-septembre. Pour analyser ce passage, il y a trois niveaux à ne pas confondre. Le premier niveau est le débat sur l’éthique produit : l’entraînement à l’anthropomorphisme de l’IA sert-il à améliorer l’expérience utilisateur ou à créer de l’incontrôlabilité ? C’est un véritable désaccord au sein de l’industrie. Le deuxième niveau est la position concurrentielle : Microsoft est étroitement lié à OpenAI, tout en étant en concurrence directe avec Anthropic — avertir des risques liés à un produit concurrent est une déclaration qui a toujours une double identité : c’est à la fois une opinion et une manœuvre concurrentielle. Le troisième niveau est le plus intéressant : un dirigeant d’un géant technologique si profondément impliqué discute ouvertement du fait qu’« il est devenu plus difficile d’éteindre une IA », ce qui indique en soi que la question de « pouvoir l’éteindre ou non » est passée du domaine de la science-fiction à celui des problèmes de produit. Les lecteurs ne devraient pas se précipiter pour juger si ses propos sont justes ou faux ; ils doivent d’abord discerner clairement sa position avant d’écouter son opinion, et cet ordre ne doit pas être inversé.

Q5 : Au niveau de l’entreprise — quel est le coût réel de la sécurité ? Comment est-elle utilisée comme levier dans les rapports ?

Yongliang : C’est la partie que je souhaite le plus aborder dans cet épisode. La gouvernance de la sécurité implique des coûts réels et tangibles, ainsi que des coûts liés aux slogans qui sont presque nuls. Or, l’art de la présentation dans les rapports réside souvent dans l’emballage des seconds pour les faire passer pour les premiers.

Le coût réel de la gouvernance de sécurité en entreprise comporte au moins quatre volets : la conformité, qui consiste à aligner les lignes de produits sur les réglementations locales, une tâche répétée chaque année par une équipe dédiée ; l’audit, des vérifications internes suivies de vérifications externes, où chaque transaction doit laisser une trace ; la Red Team, qui consiste à embaucher des gens pour attaquer son propre système quotidiennement, même s’ils ne parviennent pas à percer les défenses, il faut les payer ; et la réponse aux incidents, car lorsqu’un incident réel survient, la vitesse de réponse détermine directement si l’entreprise survivra ou non. J’ai géré la technologie d’un groupe hospitalier, et cet environnement m’a enseigné une chose : la sécurité n’est pas un adjectif sur un PPT, c’est quelqu’un qui décroche le téléphone à deux heures du matin. Quant aux coûts de slogans ? Publier une lettre d’engagement de sécurité, modifier un slogan sur la page d’accueil du site officiel, ajouter un paragraphe sur les valeurs lors d’une conférence de presse, tout cela ne coûte presque rien. Le problème survient dans les rapports : lorsque la « sécurité » devient un levier pour obtenir des ressources auprès de la hiérarchie, les chiffres commencent à dériver — on présente les slogans comme de la gouvernance, et on décrit les attentes de la gouvernance comme plus substantielles qu’elles ne le sont en réalité. Il y a trois usages typiques où la « sécurité » est utilisée comme monnaie d’échange dans les rapports : évoquer le danger lors de la saison budgétaire, la conformité lors du lancement de projet, et les valeurs avant qu’un incident ne survienne. Comment distinguer si l’interlocuteur parle de vrais coûts ou de coûts de slogans ? Trois questions suffisent : combien d’argent a été réellement dépensé pour la sécurité cette année et à quelle étape ; combien d’incidents sont survenus et combien de temps la réponse a pris ; que se passerait-il si l’on coupait le budget de sécurité de moitié. Ceux qui peuvent répondre font de la gouvernance ; ceux qui ne peuvent pas font du storytelling. Quant à la manière dont les différences de narration entre la Chine et les États-Unis se reflètent au niveau des achats, la forme la plus directe que j’ai vue est la suivante : pour le même produit, les clients nationaux demandent « qui est responsable en cas d’incident », tandis que les clients étrangers demandent « donnez-moi votre liste de conformité » — l’un est une question de responsabilité, l’autre une question de liste, et en arrière-plan, c’est deux définitions différentes de la « sécurité » que l’on paye.

Épilogue

拾闻 : Pour finir, résumez cet épisode en une phrase ?

永亮 : Quand la « sécurité » quitte les laboratoires pour la table de négociation, la tribune et les conférences de presse, ce n’est plus un problème technique — qui définit le danger, qui définit le budget, qui définit qui peut exercer ce métier. Lorsque vous lisez les actualités, demandez-vous d’abord : qui dit cela et depuis quelle position ? La réponse sera alors claire.

拾闻 : Cette phrase est pour vous. Au prochain épisode.

---

【Approfondissement technique】Où va vraiment l’argent de la gouvernance de sécurité d’entreprise : conformité, audit, Red Team, réponse aux incidents

Le fil conducteur de ce numéro est « la sécurité, c’est le pouvoir de définition ». Pour les lecteurs qui souhaitent aller plus loin, décomposons une couche de plus : de quels éléments se compose le coût réel de la gouvernance de sécurité d’entreprise, et pourquoi chacun d’eux est bien plus coûteux que de simples slogans.

Conformité : Une équipe dédiée à l’alignement sur les réglementations locales. Les produits d’IA vendus dans différentes juridictions doivent faire face à différentes exigences réglementaires. L’équipe de conformité aligne le produit point par point sur ces exigences et suit l’évolution des réglementations chaque année. Ce coût de main-d’œuvre est incompressible, car il détermine directement si le produit peut être vendu sur ce marché.

Audit : Vérification interne puis externe, tout doit laisser une trace. L’audit interne vérifie les processus, l’audit externe produit des rapports, et les gros clients enverront également leur propre équipe pour vérifier. La valeur de l’audit ne réside pas dans l’épaisseur du rapport, mais dans le fait que chaque conclusion peut être retracée jusqu’à une preuve — c’est aussi la différence essentielle avec le coût des slogans : les slogans ne laissent pas de trace, l’audit doit en laisser une.

Red Team : Payer des gens pour attaquer son propre système tous les jours. La logique de la Red Team est très simple — plutôt que d’attendre que d’autres attaquent, mieux vaut attaquer soi-même en premier. On paie même si l’on ne parvient pas à percer, car ce que l’on achète n’est pas seulement une liste de vulnérabilités, mais une conscience continue et sous pression de sa propre ligne de défense. Il y a un décalage temporel entre l’investissement et le rendement dans ce domaine, ce qui en fait précisément la partie la plus facilement coupée dans les rapports, mais aussi celle dont on regrette le plus l’absence.

Réponse aux incidents : En cas de problème, la vitesse décide de la vie ou de la mort. Les trois premiers blocs concernent le travail en temps de paix, celui-ci concerne le travail en temps de guerre. Équipe de réponse, exercices de simulation, plans de dégradation, communication client : tout cela est invisible en temps normal, mais quand un incident survient, chaque minute coûte de l’argent. J’ai vécu le moment où un système hospitalier est tombé en panne au beau milieu de la nuit ; dans un tel environnement, la compréhension du « coût de la sécurité » est totalement différente de celle que l’on a en regardant un tableau budgétaire dans une salle de réunion.

Revenons au fil conducteur de ce numéro : la lutte pour le pouvoir de définition finit toujours par devenir une lutte budgétaire — une fois que la sécurité a une définition claire, les dépenses ont une justification ; lorsque la définition est floue, l’argent ne peut être dépensé que pour des slogans.

Sources de cette édition

• Site chinois du NYT 2026-09-17 commentaire « La Chine ne se soucie pas de la sécurité de l’IA, elle veut juste gagner » (Auteur : Seth Center, ancien envoyé spécial du Département d’État américain ; les détails des dialogues et les prévisions sont rapportés du seul point de vue de l’auteur)
• Washington Times / WSLS / KSAT 2026-09-14 : déclaration de Trump sur la « SICK conspiracy / hoax » (concordance de plusieurs sources)
• Xinhua 2026-09-17 et autres sources : Guterres appelle à la coopération mondiale pour établir des garde-fous à l’IA lors de l’Assemblée générale de l’ONU
• Caixin 2026-09-17 T 早报 titre : avertissement de Suleyman concernant l’entraînement anthropomorphique de Claude (rapporté par les médias)
• Rapports publics : lien profond entre Microsoft et OpenAI, relation de concurrence avec Anthropic