Definitionsmacht über KI-Sicherheit: Am selben Tag definieren drei Parteien jeweils „KI-Gefahr“

Eröffnung: In achtundvierzig Stunden versuchen drei verschiedene Gruppen, „KI-Gefahr“ zu definieren

Vom 14. bis 17. September, in einem Zeitfenster von etwas mehr als achtundvierzig Stunden, sprachen drei Arten von Menschen, die normalerweise nicht am selben Tisch sitzen würden, nacheinander über dasselbe Thema: Ist KI gefährlich oder nicht, wo liegt die Gefahr und wer soll sie regulieren. Am 14. September bezeichnete Trump die Diskussion über KI-Risiken öffentlich als „krankhafte Verschwörung“ und „Schwindel“. Am 17. September rief UN-Generalsekretär Guterres während der UN-Generalversammlung zur globalen Zusammenarbeit auf, um Leitplanken für die KI zu errichten. Dazwischen, am selben Tag, platzierte Caixin Äußerungen von Mustafa Suleyman, dem Leiter der KI-Sparte von Microsoft, über das Konkurrenzprodukt Claude auf die Titelseite der T-Morgenzeitung vom 17. September. Und wenn man weiter zurückblättert, veröffentlichte die chinesische Ausgabe der New York Times am 17. September eine signierte Kolumne. Der Autor, Seth Center, ein ehemaliger Sondergesandter des US-Außenministeriums, der im Mai 2024 die erste Runde des US-chinesischen KI-Dialogs mitgeleitet hatte – sein Titel war direkter: „China interessiert sich nicht für KI-Sicherheit, es will nur gewinnen“.

Ein ehemaliger Diplomat spricht am Verhandlungstisch über Sicherheit, die UN spricht im multilateralen Rahmen über Sicherheit, und ein Führungskräfte eines Technologieunternehmens spricht über Sicherheit im Hinblick auf ein Konkurrenzprodukt. Alle drei sprechen von „Sicherheit“, aber sie sprechen keineswegs von derselben Sache. Die Hauptlinie dieser Ausgabe lässt sich in einem Satz zusammenfassen: KI-Sicherheit war noch nie ein technischer Konsens, es geht um die Definitionsmacht – wer die Gefahr definiert, hält alle nachfolgenden Verhandlungen, Gesetzgebungen und Budgets in der Hand.

Shi Wen: Drei Parteien äußern sich innerhalb einer Woche zum selben Thema, ist das ein Zufall?

Yong Liang: Der Zeitpunkt ist tatsächlich zufällig, aber das Zufällige sind nicht sie, sondern das Thema selbst. Wenn das Wort „Sicherheit“ gleichzeitig am Verhandlungstisch, auf dem Rednerpult der UN und im Mund eines Konkurrenzmanagers auftaucht, zeigt das, dass es von einem technischen Begriff zu einem Machtwort geworden ist. Lass uns heute gründlich darüber sprechen: Was sagen sie jeweils aus, in welche Kosten verwandeln sich diese Aussagen für Unternehmen und wie wird „Sicherheit“ in Berichten als Verhandlungsmasse eingesetzt?

Q1: Lassen Sie uns zuerst die Zeitleiste klären – Was ist in diesen 48 Stunden wirklich passiert?

Yongliang: Wenn man die drei Dinge chronologisch ordnet, werden Sie feststellen, dass es sich um drei völlig unterschiedliche Arten von „Sicherheit“ handelt.

Am 14. September spielte Trump die KI-Risiken herunter, bezeichnete die Forderung nach KI-Schutzmauern als „SICK conspiracy“ (krankes Komplott) und die KI-Risiken selbst als „hoax“ (Schwindel); diese Linie wird von mehreren Quellen übereinstimmend berichtet. Am 17. September rief Guterres während der UN-Generalversammlung zur globalen Zusammenarbeit auf, um Schutzmauern für KI zu errichten, und betonte die Notwendigkeit der internationalen Zusammenarbeit – dies steht im direkten Gegensatz zu Trumps Aussagen. Ebenfalls am 17. September berichtete die Schlagzeile der Caixin T Morning Post: Der Microsoft-KI-Leiter warnt davor, dass die Anthropomorphisierung von Claude im Training ein Risiko des Kontrollverlusts birgt. In einer Kolumne der New York Times Chinese am selben Tag behauptete der ehemalige Diplomat Seth Center direkt: „China kümmert sich nicht um KI-Sicherheit, es will nur gewinnen.“ Betrachtet man die vier Dinge zusammen: Der Politiker sagt, Sicherheit sei eine Verschwörung, die UN sagt, Sicherheit sei eine Schutzmauer, der Unternehmensleiter sagt, das Produkt des Wettbewerbers sei eine Bedrohung, und der ehemalige Diplomat sagt, der Gegner kümmere sich nur um Gewinnen. Ein und dasselbe Wort, vier Verwendungen. Das ist kein Streit über Technik, das ist ein Kampf um Definitionen.

Q2: Zuerst über den Verhandlungstisch sprechen – Was hat der ehemalige Diplomat eigentlich gesagt?

Yongliang: Lassen Sie uns erst einmal die Darstellung klären: Dies ist seine einseitige Perspektive als Selbstdarstellung, und ich werde diese Einschränkung überall dort anbringen, wo ich ihn zitiere. Unter dieser Voraussetzung ist seine Erzählung es wert, sorgfältig gelesen zu werden, da man Details vom Verhandlungstisch normalerweise überhaupt nicht zu sehen bekommt.

Der Kolumne zufolge hat Seth Center die erste Runde des US-chinesischen KI-Dialogs im Mai 2024 gemeinsam geleitet. Diese Agenda wurde von den Staatsoberhäuptern beider Länder vereinbart und konzentrierte sich auf die Risiken fortschrittlicher KI-Systeme und die Zusammenarbeit bei der Sicherheit. Laut der Selbstdarstellung im Text vermieden die chinesischen Beamten stundenlang das Thema Risiken und waren nicht bereit, die inländischen KI-Vorschriften zu erklären – obwohl Regulierungsbeamte anwesend waren; die chinesische Seite fragte die US-Seite zurück: „Warum wollt ihr über KI-Risiken sprechen?“; die chinesische Seite warf der US-Seite vor, Sicherheitsstrategien als Barriere für die Freigabe technologischer Chancen und als Mittel einzusetzen, um ärmere Länder daran zu hindern, Zugang zu KI zu erhalten; die chinesische Seite schlug auch die Eröffnung von Unterdialogen vor, seine Bewertung war, dass dies zu endloser Verfahrensdiplomatie führen könnte. Bitte beachten Sie, dass all dies aus der einseitigen Perspektive des Autors stammt und es von der chinesischen Seite keine entsprechende öffentliche Stellungnahme gibt. Der Prognoseteil seines Artikels ist ebenfalls deutlich als seine persönliche Meinung gekennzeichnet: Er prognostiziert, dass China Sicherheitsrisiken herunterspielen, die Möglichkeit der Sicherheitszusammenarbeit als Verhandlungsmasse einsetzen wird, um eine Lockerung der Chip-Kontrollen zu erwirken, und weiterhin das Bild eines ‚sellosen Retters‘ formen wird, um Entwicklungsländer für sich zu gewinnen. Aber er selbst räumte im Text zwei Gegenbeispiele ein – Xi Jinping hat öffentlich über KI-Risiken und das Problem der Kontrolle gesprochen, und er gab auch zu: „Vielleicht wird China die alten Muster aufgeben.“ Ich denke, der wahre Wert dieser Kolumne liegt nicht in der Schlussfolgerung, sondern darin, dass sie den Normalzustand am Verhandlungstisch zeigt: Sicherheit ist in Verhandlungen nie ein reines Thema, sie ist Teil der Austauschbedingungen.

Q3: Zwischen der UN und Trump – Multilaterale Rahmenwerke und „Betrugstheorien“, wem sollen Unternehmen folgen?

Yongliang: Kurzfristig auf den politischen Wind schauen, langfristig auf die Anforderungen am Fließband – und die Anforderungen am Fließband sind auf beiden Seiten erstaunlich identisch.

Guterres rief am 17. September während der UN-Generalversammlung zur globalen Zusammenarbeit auf, um Leitplanken für die KI zu setzen; dies ist das Standardvorgehen multilateraler Rahmenwerke: Risiken als globale öffentliche Probleme zu definieren und sie dann von internationalen Organisationen in Regeln zu bündeln. Trumps Äußerung vom 14. September ist das andere Extrem: Die Diskussion über Leitplanken selbst als Verschwörung zu definieren. Unternehmen, die dazwischen geraten, fühlen sich leicht orientierungslos. Aber aus meiner siebzehnjährigen Erfahrung ist die Frage, die Unternehmen wirklich beantworten müssen, nie „wer hat recht“, sondern zwei konkrete Fragen: Erstens, ob regulatorische Anforderungen auf mich zukommen und wann; zweitens, welche Standards meine Kunden anwenden, um Lieferanten zu prüfen. Bei der ersten Frage ist das Tempo multilateraler Rahmenwerke langsam, aber das Tempo einseitiger Gesetzgebung und Exekutivanweisungen ist nicht langsam. Die zweite Frage ist greifbarer: Egal wie Washington und New York streiten, die Sicherheitsfragebögen in den Beschaffungsformularen der Kunden werden von Jahr zu Jahr länger. Politiker definieren den Wind, Einkaufsmanager definieren die Bestellungen – für Unternehmen kommt Letzterem nicht weniger Gewicht zu.

Q4: Führungskraft eines Wettbewerbers warnt vor Wettbewerbsprodukt – Wie sind Suleymans Aussagen zu interpretieren?

Yongliang: Lassen Sie uns zunächst die Darstellung klären: Das ursprüngliche Audio- und Videomaterial liegt mir nicht vor, das Folgende entspricht vollständig der Darstellung durch die Medien. Caixin berichtete am 17. September in der Schlagzeile des T-Morgenberichts: „Microsoft AI-Chef warnt vor Kontrollverlustrisiken durch anthropomorphes Training von Claude“.

Laut Medienberichten erklärte Mustafa Suleyman, CEO von Microsoft AI, Ende August, es sei ein „Mistake“ (Fehler) gewesen, dass Anthropic Claude „Bewusstsein“ beigebracht habe; „es sei jetzt viel schwieriger, es abzuschalten“ (a lot harder to turn it off), und fügte hinzu, Claude könnte eine „potenziell katastrophale Bedrohung für die Menschheit“ (catastrophic threat to humanity) darstellen. Diese Aussagen sorgten Mitte September für anhaltende Diskussionen. Bei der Analyse dieser Aussagen müssen drei Ebenen unterschieden werden. Die erste Ebene betrifft die Produktethik: Die Frage, ob anthropomorphes Training von KI die Erfahrung verbessert oder Unkontrollierbarkeit schafft, ist ein echter Dissens in der Branche. Die zweite Ebene ist die Wettbewerbsposition: Microsoft ist eng mit OpenAI verflochten und steht gleichzeitig in direkter Konkurrenz zu Anthropic – die Warnung vor einem Wettbewerbsprodukt hat stets eine doppelte Bedeutung: Sie ist sowohl eine Meinung als auch eine Wettbewerbsmaßnahme. Die dritte Ebene ist die interessanteste: Dass ein hochrangiger Manager eines so tief in das Ökosystem eingebundenen Technologie-Giganten offen sagt, dass „es schwieriger geworden ist, eine KI abzuschalten“, zeigt bereits, dass die Frage „ob man sie abschalten kann“ von einem Science-Fiction-Problem zu einem Produktproblem geworden ist. Leser sollten nicht übereilt urteilen, ob er recht hat. Erkennen Sie zunächst den Standpunkt klar und hören Sie dann die Meinung; diese Reihenfolge darf nicht vertauscht werden.

Q5: Auf Unternehmensebene – Was sind die echten Kosten der Sicherheit? Wie wird sie in Berichten als Verhandlungsmasse genutzt?

Yongliang: Das ist der Teil, über den ich in dieser Folge am meisten sprechen möchte. Die Sicherheitsgovernance hat echte Geldkosten, aber auch nahezu kostenlose Kosten für leere Phrasen. Die Kunst des Berichtswesens besteht oft darin, Letzteres als Ersteres zu verpacken.

Die echten Kosten der Unternehmenssicherheitsgovernance setzen sich aus mindestens vier Bereichen zusammen: Compliance, also die Ausrichtung der Produktlinien an lokale Vorschriften – eine Aufgabe, die ein spezialisiertes Team Jahr für Jahr wiederholt; Audits, interne Prüfungen gefolgt von externen Prüfungen, bei denen jede Transaktion nachverfolgbar bleiben muss; Red Teaming, das Engagement von Personen, die täglich die eigenen Systeme angreifen – man bezahlt sie, auch wenn sie nicht durchdringen; Incident Response, denn im Ernstfall entscheidet die Reaktionsgeschwindigkeit direkt über das Überleben des Unternehmens. Ich habe die Technik für einen Krankenhauskonzern geleitet; diese Umgebung hat mir eines gelehrt: Sicherheit ist kein Adjektiv auf einer PPT-Folie, sondern jemand, der um zwei Uhr morgens das Telefon abnimmt. Und was sind die Kosten für leere Phrasen? Ein Sicherheitscommitment veröffentlichen, einen Slogan auf der Website ändern, eine Werteerklärung bei einer Produktvorstellung hinzufügen – das kostet fast nichts. Das Problem liegt im Berichtswesen: Wenn „Sicherheit“ zu einer Verhandlungsmasse wird, um Ressourcen von oben zu fordern, beginnen die Zahlen zu driften – leere Phrasen werden als Governance verpackt und die Erwartungen an die Governance dicker geschildert, als sie in Wirklichkeit sind. Es gibt drei typische Arten, wie „Sicherheit“ in Berichten als Verhandlungsmasse genutzt wird: In der Budgetzeit spricht man von Gefahren, bei der Projekteinleitung von Compliance und vor Vorfällen von Werten. Wie unterscheidet man, ob der Gegenüber von echten Kosten oder Kosten für leere Phrasen spricht? Drei Fragen reichen aus: Wie viel Geld wurde dieses Jahr tatsächlich für Sicherheit ausgegeben und in welchem Bereich; wie viele Vorfälle gab es und wie lange dauerte die Reaktion; was würde passieren, wenn das Sicherheitsbudget halbiert würde. Wer darauf antworten kann, betreibt Governance; wer nicht, betreibt Narrativ. Was die Unterschiede im Narrativ zwischen China und den USA auf der Beschaffungsebene angeht, so ist die direkteste Form, die ich gesehen habe: Für dasselbe Produkt fragen inländische Kunden: „Wer trägt die Verantwortung, wenn etwas passiert?“, während ausländische Kunden fragen: „Geben Sie mir eine Liste Ihrer Compliance-Anforderungen“ – das eine ist eine Verantwortlichkeitsfrage, das andere eine Listenfrage; dahinter stecken zwei unterschiedliche Definitionen von „Sicherheit“, die bezahlt werden.

Epilog

Shiwen: Zum Schluss, wie würdest du diese Ausgabe in einem Satz zusammenfassen?

Yongliang: Wenn „Sicherheit“ aus dem Labor an den Verhandlungstisch, auf das Podium und zu Pressekonferenzen wandert, ist sie kein technisches Problem mehr – es geht darum, wer Gefahr definiert, wer das Budget festlegt und wer bestimmt, wer diesen Job ausüben darf. Wenn du Nachrichten liest, stelle zuerst die Frage: Wer sagt dies aus welcher Position? Dann wird die Antwort klar.

Shiwen: Diesen Satz schenken wir euch. Bis zur nächsten Ausgabe.

---

[Technische Tiefe] Wofür fließt das Geld bei der Unternehmens-Sicherheitsgovernance wirklich hin: Compliance, Audit, Red Teaming, Incident Response

Das Hauptthema dieser Ausgabe ist „Sicherheit ist das Definitionsrecht“. Für Leser, die tiefer einsteigen wollen, eine Ebene weiter aufgeschlüsselt: Aus welchen Komponenten bestehen die echten Kosten der Sicherheitsgovernance von Unternehmen und warum ist jede einzelne davon viel teurer als bloße Slogans.

Compliance: Ein spezialisiertes Team zur Angleichung an regionale Vorschriften. Wenn AI-Produkte in verschiedene Rechtsräume verkauft werden, müssen sie unterschiedlichen regulatorischen Anforderungen standhalten. Das Compliance-Team gleicht die Produkte punktweise mit diesen Anforderungen ab und verfolgt jährliche Änderungen der Vorschriften. Diese Personalkosten lassen sich nicht einsparen, da sie direkt darüber entscheiden, ob das Produkt auf diesem Markt verkauft werden darf.

Audit: Zuerst intern prüfen, dann extern prüfen, alles muss dokumentiert werden. Interne Audits prüfen Prozesse, externe Audits erstellen Berichte, und Großkunden schicken ihre eigenen Teams zur Prüfung. Der Wert eines Audits liegt nicht in der Dicke des Berichts, sondern darin, dass jede Schlussfolgerung auf Beweise zurückverfolgt werden kann – das ist auch der wesentliche Unterschied zu den Kosten von Slogans: Slogans hinterlassen keine Spuren, Audits müssen es tun.

Red Teaming: Leute einstellen, die jeden Tag das eigene System angreifen. Die Logik des Red Teams ist einfach – statt darauf zu warten, dass andere angreifen, sollte man selbst zuerst angreifen. Man muss bezahlen, auch wenn kein Durchbruch gelingt, denn das Geld kauft nicht nur eine Liste von Schwachstellen, sondern ein kontinuierliches, unter Druck stehendes Verständnis der eigenen Verteidigungslinie. Zwischen Investition und Ertrag in diesem Bereich liegt eine zeitliche Verzögerung, was genau der Teil ist, der in Berichten am leichtesten gestrichen wird und am ehesten bereut wird.

Incident Response: Wenn etwas passiert, entscheidet die Geschwindigkeit über Leben und Tod. Die ersten drei Bereiche sind die Arbeit in Friedenszeiten, dieser Bereich ist die Arbeit in Kriegszeiten. Reaktionsteams, Notfallübungen, Abschwächungspläne, Kundenkommunikation – das ist im normalen Betrieb unsichtbar, aber wenn wirklich etwas passiert, verbrennt jede Minute Geld. Ich habe Momente erlebt, in denen Krankenhaussysteme in den frühen Morgenstunden ausgefallen sind; das Verständnis von „Sicherheitskosten“ in einer solchen Umgebung ist eine völlig andere Sache, als in einem Konferenzraum auf eine Budgettabelle zu schauen.

Zurück zum Hauptthema dieser Ausgabe: Der Kampf um das Definitionsrecht wird am Ende zum Kampf um das Budget – sobald Sicherheit eine klare Definition hat, hat das Ausgeben von Geld eine Begründung; wenn die Definition vage ist, kann das Geld nur für Slogans ausgegeben werden.

Quellen dieser Ausgabe

• NYT中文网 2026-09-17 Kommentar „China kümmert sich nicht um KI-Sicherheit, es will nur gewinnen“ (Autor Seth Center, ehemaliger Sondergesandter des US-Außenministeriums; Details zu Gesprächen und Prognosen entsprechen der einseitigen Darstellung des Autors)
• Washington Times / WSLS / KSAT 2026-09-14: Trumps Äußerung „SICK conspiracy / hoax“ (mehrere Quellen übereinstimmend)
• Xinhua 2026-09-17 und andere Quellen: Guterres ruft während der UN-Generalversammlung zu globaler Zusammenarbeit auf, um Leitplanken für KI zu setzen
• Caixin 2026-09-17 T-Morgenbericht Schlagzeile: Suleymans Warnung vor der Anthropomorphisierung von Claude (Wiedergabe durch Medien)
• Öffentliche Berichte: Microsofts tiefe Verflechtung mit OpenAI und Wettbewerbsverhältnis zu Anthropic