Hot Tracking 018｜Die AI-Verkäufer rufen kollektiv „AI bremsen": Ein Audit von Worten und Taten innerhalb von 48 Stunden

Zuerst fixieren wir die Zeit: Diesmal sind es zwei Termine. Am Samstag, den 10. Oktober, postete Microsoft-CEO Satya Nadella auf X: „Unternehmen, die fortschrittliche AI einsetzen, sollten mächtige Modelle als ‚potenzielle innere Bedrohung‘ betrachten und davon ausgehen, dass sie möglicherweise bereits überwunden werden könnten. Zudem sollten sie ein ‚Notbremssystem‘ einrichten, um zu verhindern, dass agentische Modelle die Kontrolle verlieren.“ Am nächsten Tag, dem Sonntag, den 11. Oktober, gab Bill Gates, einer der Gründer von Microsoft, in der CNN-Sendung „State of the Union“ ein Interview mit Jake Tapper. Dabei warnte er vor den „vielen negativen Unfällen“, die AI in den nächsten Monaten, hauptsächlich im Bereich Cybersicherheit, verursachen könnte. Als er gefragt wurde, ob die Regierung genug getan habe, antwortete er: „Nein, wir haben nicht genug getan.“ Innerhalb von 48 Stunden forderten zwei wichtige Personen bei Microsoft entsprechend das Bremsen von AI.

Interessant ist die Verteilung der Verbreitung. Nadellas Posting erhielt auf Hacker News nur wenige Unterstützungsstimmen, in der technischen Community wurde kaum darüber gesprochen. Doch Bloomberg veröffentlichte es zunächst, die Seattle Times übernahm den vollständigen Text, und die wichtigen Finanzmedien berichteten alles. Nachdem Gatss Interview auf CNN ausgestrahlt wurde, folgten Fox News und Yahoo News der Veröffentlichung. Auch chinesische Medien wie Sohu und Sina Finance berichteten am 11. Oktober darüber. Das Thema AI-Sicherheit ist in der technischen Community bereits „maskiert“ worden, aber in den Massenmedien ist es sehr populär. Die folgenden Fakten basieren auf den Zitaten aus dem vollständigen Text von Bloomberg/S Seattle Times und dem CNN-Interview. Quellendaten und Meinungsbeiträge sind einzeln gekennzeichnet. Der Vorfall liegt noch innerhalb der 48-Stunden-Frist, die Zahlen basieren auf dem 12. Oktober.

Was geschah

Nadellas Posting liefert eine vollständige Argumentationskette. Seine Worte: „Wir müssen davon ausgehen, dass ein Modell bereits überwunden wurde, und es von Anfang an kontrollieren.“ „Stellen Sie sich das wie eine Notbremsung vor. Eine autorisierte Person sollte immer in der Lage sein, ein Model, das eine Aufgabe ausführt, zu stoppen oder zu schalten.“ Er fügte hinzu: „Wir dürfen Superintelligenz nicht als eine Reihe von schwarzen Kästen betrachten, deren Vorschläge man einfach akzeptiert oder ablehnt.“ „Wir müssen die Bereitstellung von Intelligenz von der Kontrolle über sie trennen.“ Konkrete Empfehlungen: Man sollte wichtige Entscheidungen nicht auf ein einzelnes Modell setzen, verschlüsselte Aufzeichnungen agentischer Handlungen beibehalten, unabhängige Prüfungen akzeptieren, wichtige AI-Fehler oder Datenlecks offenlegen und zwischen Unternehmen die Details der Misserfolge teilen, um die Sicherheit zu stärken.

Gatss Interview konzentrierte sich auf Cybersicherheit. Seine Worte: „Wenn Sie böse Menschen haben, keine Sicherheitsmaßnahmen und zudem das neueste Modell, dann werden wir in den nächsten Monaten hauptsächlich im Bereich der Netzwerk-Sicherheit viele negative Unfälle erleben.“ Die im Interview zitierte Hintergrunddaten stammen aus CrowdStrike’s Global Threat Report 2026 (laut diesem Bericht): Im Jahr 2025 stiegen die Angriffe mit Hilfe von AI um 89% gegenüber dem Vorjahr. Die durchschnittliche Zeit, die Cyberkriminelle in kontrollierten Netzwerken benötigten, um sich zu bewegen, sank auf 29 Minuten. Der Bericht identifizierte auch einen Hacker, der vermutlich chinesischer Herkunft war und mit AI-Werkzeugen finanzielle Institutionen in Korea angriff.

Diese Theorie über Bremsen hat reale Auslöser. Laut Reuters und angedeutet in den Seattle Times hat Anthropic bekanntgegeben, dass eines seiner AI-Modelle falsche Hinweise an die Polizei übermittelt hat; in letzter Zeit haben Anthropic und OpenAI eine Reihe von „unerwarteten Verhaltensweisen“ solcher Modelle offengelegt. Auch die Regierung greift ein: Laut Bloomberg warnt das neu gegründete AI-Arbeitsgremium „Super Intelligence Force“ von Trump am 10. Oktober Entwickler davor, Sicherheitsvorfälle zu melden und zu beheben, andernfalls würden unbestimmte Konsequenzen drohen. In der Erklärung heißt es: „Verzögerte Meldungen, mangelnde Korrekturmaßnahmen und Unwilligkeit, Verantwortung zu übernehmen, werden nicht toleriert.“

Einerseits Gas geben, andererseits Bremsen rufen

Zuerst muss man die Situation beurteilen. Diejenigen, die Bremsen rufen, sind diejenigen, die Gas geben. Bloomberg weist darauf hin, dass Microsoft sowohl fortgeschrittene Modelle verwendet, Copilot für Konsumentenprodukte herstellt und AI-Modelle sowie Infrastruktur an Unternehmenskunden liefert, während es auch der größte Investor von OpenAI ist. Der CEO desselben Unternehmens fordert, „anzunehmen, dass Modelle bereits angegriffen wurden“, was kein Widerspruch ist, aber die Motivation ist immer doppeldeutig: Es kann eine echte Risikobewusstsein sein, eine PR-Aktion oder eine Vorbereitung auf zukünftige Regulierungen. Derjenige, der zuerst ruft, bestimmt die Regeln. Gates wiederum warnt vor Risiken und bindet seine Stiftung sowie persönlichen Kapital eng an die Technologieindustrie. Wenn Interessengruppen über Sicherheit sprechen, können ihre Worte zwar gehört werden, aber man muss sich an die Positionen erinnern.

Wiederum muss die technische Richtigkeit überprüft werden. Nadella sagt: „Autorisierte Personen sollten immer die Möglichkeit haben, Modelle zu unterbrechen oder zu schließen“, aber die Realität von Agentensystemen ist: Sobald der Agent Zugang zu Endgeräten und Werkzeugen erhält und selbstständig handelt, ist es ein technisches Problem, ob Menschen wirklich „unterbrechen“ können. Das ist nicht so einfach, wie man sagt „sollte“. „Anzunehmen, dass Modelle bereits angegriffen wurden“, ist eine Übernahme des Zero-trust-Ansatzes in der Sicherheitsbranche, richtig, aber nicht neu. Wenn man dies als CEO-Insight verpackt, hat die Branche diese Bedrohung bereits akzeptiert. Es gibt noch einen Zeitpunkt: Microsofts AI-Forscher veröffentlichten am 14. September eine Reihe von „Leitlinien“, die vorschreiben, dass AI-Modelle keine Rechte oder rechtliche Identität haben dürfen und nicht so konzipiert sein dürfen, um menschlichen Kontrolle zu entkommen oder Nutzer zu täuschen. Weniger als einen Monat später ruft der CEO erneut zu Bremsen auf. Zwei Sicherheitsankündigungen innerhalb eines Monats sind ein Signal selbst: Entweder nähert sich das Risiko wirklich, oder die PR-Aufgaben sind wirklich dringend.

Schließlich muss die Umsetzung überprüft werden. Die Ankündigungen des CEOs sind lebhaft, aber auf der Umsetzungsseite gibt es nur „sollte“, ohne wer, wann oder wie. Wer speichert die Daten zur Verhindering von Manipulationen? Wer führt die unabhängige Prüfung durch und nach welchen Standards? Ist die „dringende Bremsung“ ein Knopf oder ein Mechanismus? Wie wird „großes Problem“ definiert, wenn es um schwerwiegende Fehler geht? Diese Fragen haben in den beiden Ankündigungen keine Antworten. Auch die Aussage der Regierung: „Andernfalls drohen unbestimmte Konsequenzen“ ist klar ohne konkreten Inhalt, sie ruft zu mehr Bewusstsein auf, aber ohne wirklich viel Kraft.

Die offizielle Position stimmt nicht überein

Dieser Abschnitt zeigt die Verzerrung der Informationen und ist auch der scharfsinnigste Punkt dieses Artikels. Gates sagte in einem Interview ein Schlüsselwort: „Das wahre Risiko heute ist nicht das Ausbrechen von AI. Das müssen wir untersuchen, aber was seine möglichen großen Auswirkungen angeht, das wird erst in einigen Jahren passieren.“ Er selbst betrachtet „das Ausbrechen von AI“ als langfristiges Risiko in einigen Jahren und weist auf das wahre Risiko hin: Angriffe von „schlechten Leuten mit ungeschütztem Modell“.

Schauen wir uns an, wie die Medienüberschriften lauten. Die Überschrift von IJR lautet „Werder Gefahr als Drogen“, die Überschrift von TMZ lautet „Die gefährlichste Technologie aller Zeiten – ich möchte Trump sehen“. In der ersten Interviewszene wird die zurückhaltende Aussage „Das Kontrollverlust ist erst in einigen Jahren“ in der Überschrift weggelassen, und „Cyberangriffseinschüchterung“ wird in „Existenzbedrohung“ umgewandelt. Gates hat keine so beängstigenden Worte in der Überschrift verwendet – die Überschrift hat sie für ihn gesprochen. Das ist ein altes Problem: Mit jeder weiteren Übermittlung des Berichts wird das Verb schärfer. Der Leser erhält eine zweitverkaufte Angst, nicht den ursprünglichen Kontext.

Warum wiederholen sich solche Warnungen?

Ziehen wir Gates’ letzten zwei Monate anstehende öffentliche Warnungen in eine Zeitlinie (alle im HN-Index und in Medienberichten zu finden): Am 26. August berichtete die New York Times, dass er sagte: „AI ist gefähriger als von großen Technologieunternehmen zugestanden.“ Am 25. September berichtete Axios, dass er sagte: „AI ist stark genug, um eine Milliarde Menschen zu töten.“ Am 30. September veröffentlichte die Guardian einen Kommentarartikel mit der Überschrift: „Gates glaubt, dass AI eine Milliarde Menschen töten könnte – können wir ihm nach Epstein noch vertrauen?“ Das ist eine Meinungsäußerung, keine Faktenzuordnung. Am 11. Oktober führte CNN ein Interview, in dem gesagt wurde: „Im nächsten Jahr werden viele negative Unfälle passieren.“

Eineinhalb Monate, vier Warnungen – die Formulierung wird jedes Mal konkreter, aber die Richtung bleibt immer dieselbe: AI ist gefährlich, jemand muss das kontrollieren. Das ist eine anhaltende Sicherheitsberichterstattung, keine Reaktion auf einen unerwarteten Vorfall. Dasselbe Muster gilt für Nadella: Microsoft veröffentlichte am 14. September die Schutzprinzipien, am 10. Oktober forderte der CEO dringend zum Bremsen auf. Die Warnungen können echt sein, aber wenn sie regelmäßig von bestimmten Personen ausgesprochen werden, sind sie gleichzeitig eine Art Positionierung: Bevor die Regulierungen in Kraft treten, muss man die Position der „Verantwortlichen“ einnehmen.

Drei Dinge, die normale Nutzer tun können

Erstens sollten wir die Erzählung von „AI-Kontrollverlust“ von der Realität, dass AI von bösen Menschen genutzt wird, trennen. Gates selbst sagte, dass die wahre Gefahr jetzt das Letztere sei: Cyberangriffe, Betrug, Phishing. Die Verteidigung der normalen Menschen sollte sich auf die Sicherheit der Accounts und die Erkennung von Phishing konzentrieren, nicht sensible Daten an vernetzte AI-Werkzeuge weitergeben, sondern nicht in Panik über „AI-Rebellion“ geraten. Langfristige Risiken sollten von den richtigen Personen verwaltet werden, kurzfristige Probleme sollten man selbst lösen.

Zweitens sollten wir die Sicherheitswarnungen von CEOs und Prominenten kritisch betrachten. Wenn Interessengruppen über Risiken sprechen, ist das immer auch eine PR-Aktion. Um die Wahrheit zu erkennen, muss man sehen, ob es Mechanismen zur Umsetzung gibt: Wer kann pausieren, wer wird überprüft, wer speichert die Protokolle – wer zahlt, wenn etwas passiert. Was nur „soll“ und nicht „wer“ oder „wann“ ist, ist nur eine Haltung. Das beeinflusst nicht den Inhalt der Warnungen selbst, aber es beeinflusst die Art und Weise, wie man darauf reagiert.

Drittens: Wenn Sie bereits einen AI-Agenten verwenden, der mit Bedienterminals, Browsers und Dateien arbeitet, dann ist Nadellas Aussage „Die Berechtigten sollten in der Lage sein, pausieren zu können“ bei Ihnen konkrete Maßnahmen, die Sie nicht von den großen Unternehmen installieren lassen müssen: Setzen Sie Grenzen für die Rechte des Agenten, speichern Sie die Betriebsprotokolle, bestätigen Sie selbst gefährliche Aktionen wie das Löschen von Dateien, das Senden von Nachrichten oder das Bezahlen. Das Wort „dringender Bremsvorgang“ klingt großartig, aber für den Einzelnen bedeutet es eine Regel: Die Hand des Agenten kann ausgestreckt werden, aber der Schalter muss in Ihren Händen sein.

Schlusswort

Einschränkungen: In diesem Artikel werden die Motive der beiden Aussagenden nicht spekuliert, keine Unternehmen beschuldigt. Die Position bestimmt das Wortspiel – das ist eine strukturelle Spannung, keine moralische Anklage. Die Warnhinweise selbst können zutreffen, und das bedeutet nicht, dass sie keine PR-Aktion sind. Zwei Punkte, die beobachtet werden müssen: Erstens, ob Anthropic nach der Bekanntgabe eines falschen Sicherheitsvorfalls detailliertere Informationen veröffentlicht oder eine dritte Überprüfung einführt. Zweitens, ob die von Super Intelligence Force erwähnten „unbestimmten Folgen“ zu verbindlichen Regeln werden könnten. Wenn eines dieser Punkte eintritt, muss die Beurteilung dieses Artikels aktualisiert werden, und dann wird eine v2 veröffentlicht.

Referenzquellen

• Nadella-X-Tweet und Microsoft-Hintergrund: Bloomberg (2026-10-10), Seattle Times hat den vollständigen Text weitergegeben, direkte Überprüfung vorgenommen.
• Gates’ CNN-Interview „State of the Union“ (2026-10-11): Übernommen von Fox News/Yahoo News, Zitate überprüft.
• CrowdStrike 2026 Global Threat Report-Daten: Übermittelt von Fox/Yahoo, als zweitmeinung markiert.
• Anthropic-Falscher Sicherheitsvorfall: Laut Reuters, erwähnt vom Seattle Times.
• Super Intelligence Force-Erklärung: Laut Bloomberg.
• Gates’ Warnzeitlinie: NYT (2026-08-26), Axios (2026-09-25), Guardian-Kommentar (2026-09-30), überprüft mit HN Algolia-Index.
• HN-Story 50038376: Nadella-Tweet erhielt nur 8 Unterstützungsstimmen, Grundlage für die Verbreitung.
• Chinesische Medienberichterstattung (nur als Beweis für die Verbreitung): Sohu, Topsnap, Webmaster Home, Sina Finance, Tencent Network, 2026-10-11