Werden die Chat-Aufzeichnungen der bezahlten Abonnenten von Gemini auch für Trainingszwecke verwendet?

Die offizielle Supportseite enthält keine separaten Ausnahmeregelungen für bezahlte Nutzer: Solange Keep Activity aktiviert ist, können Chataktivitäten verwendet werden, um Dienstleistungen zu verbessern, einschließlich der Schulung generativer AI-Modelle. Dies ist eine Schlussfolgerung, die von den Autoren auf der offiziellen Seite gezogen wurde, und Google hat keine öffentliche Antwort gegeben.

Werden die Daten nach dem Ausschalten von „Keep Activity“ vollständig gelöscht?

Nein. Die Löschung betrifft nur zukünftige Chats; Chatnachrichten, die manuell überprüft wurden, sowie damit verbundene Daten (Sprache, Gerätetyp, Standort, Rückmeldungen) werden aufgrund der Löschaktion nicht gelöscht. Sie bleiben bis zu drei Jahre gespeichert; nach der Löschung werden die Chatdaten noch 72 Stunden im Account gespeichert.

Was sollte nicht in konsumentenfreundlichen AI-Assistenten wie Gemini eingefügt werden?

Die offizielle Seite von Google warnt eindeutig: Geben Sie keine vertraulichen Informationen ein, die Sie nicht den Überprüfern zeigen wollen oder die Sie nicht zur Verbesserung der Dienstleistungen verwenden möchten. Temporäre Chats werden derzeit nicht zur Schulung der Modelle verwendet; sie sind in Bezug auf die Terminologie der neutralste Kanal.

Er zahlte das Abo, doch seine Chats landeten im Trainingspool

Beginnender Dialog

Shiwen: Am 4. November postete ein Benutzer namens jameslk auf Hacker News: Er las die offiziellen Anweisungen seiner bezahlten Google AI-Abonnementabteilung und bestätigte, dass Gemini seine Chat-Historie für das Training von Modellen verwendet. Der Post erreichte schnell über 600 Punkte und mehr als 150 Kommentare. Yongliang, was hat er denn entdeckt?

Yongliang: Er fand keine Schwachstelle, sondern Bestimmungen. Er las zwei offizielle Google-Seiten und bestätigte einige Dinge. Erstens: Solange die Schaltfläche „Keep Activity“ eingeschaltet ist, können die von Gemini gespeicherten Chat-Daten für die Verbesserung der Dienstleistungen verwendet werden, einschließlich des Trainings von generativen AI-Modellen. Zweitens: Die offiziellen Seiten bieten den bezahlten Nutzern keine separaten Befreiungen an. Seine Schlussfolgerung: Wenn die Schaltfläche standardmäßig eingeschaltet ist, geht man automatisch in den Trainingspool ein. Drittens: Ein Teil der Chat-Daten wird von menschlichen Überprüfern gelesen. Seine Worte waren: Ich dachte, eine bezahlte Abonnementlösung bedeutet, sich nicht selbst in ein Produkt zu verwandeln – aber Apparently paying is not enough. Er fügte hinzu: Er hat es zu spät erkannt.

Q1: Was steht auf den offiziellen Seiten?

Shiwen: Lassen Sie uns die Fakten klären. Was bedeuten die Texte auf diesen beiden Seiten?

Yongliang: Die erste Seite handelt von der Nutzung von Daten. Der Sinn ist: Wenn Sie die Einstellung „Keep Activity“ aktivieren, werden die Aktivitäten der Gemini-Anwendung, einschließlich der Daten der angeschlossenen Anwendungen, für die Verbesserung der Google-Dienstleistungen „für alle“ verwendet, darunter auch das Training von generativen AI-Modellen. Es gibt noch einen Punkt, den man leicht übersehen kann: Das Deaktivieren einer Anwendung oder das Löschen der Daten auf der Quellseite bedeutet nicht, dass die Aktivitätsdaten von Gemini gelöscht werden. Diese Daten können weiterhin für Produktverbesserungen und Modelltraining verwendet werden. Ein weiterer Punkt: Wenn die Daten bereits von den überprüfenden Mitarbeitern gelesen wurden, können sie auch nach dem Löschen Ihrer Aktivitätsdaten weiterhin für die Verbesserung des Produkts verwendet werden.

Shiwen: Und die zweite Seite?

Yongliang: Die zweite Seite ist eine Datenschutzerklärung mit mehr Informationen. Sie besagt, dass Google Nutzeraktivitäten nutzt, um Dienstleistungen anzubieten, zu entwickeln und zu verbessern, einschließlich des Trainings von generativen AI-Modellen. Zudem werden menschliche Überprüfende Helfer eingesetzt, um Google, Nutzer und die Öffentlichkeit zu schützen. Ein Teil der Chat-Daten wird von menschlichen Überprüfern gelesen, darunter Auftragnehmer, die die Qualität der Antworten bewerten und bessere Antwortvorschläge für das Training machen. Laut Google werden die von den Auftragnehmern überprüften Daten drei Jahre lang von Ihrem Konto getrennt gespeichert. Der wichtige Punkt: Chat-Daten, die von menschlichen Überprüfern gelesen wurden, sowie zugehörige Daten wie Ihre Sprache, Gerätetyp, Standortinformationen und Rückmeldungen werden nicht gelöscht, wenn Sie die Aktivitäten löschen. Die Laufzeit beträgt maximal drei Jahre. Beachten Sie: Diese „drei Jahre“ beziehen sich auf den überprüften Teil der Chat-Daten, nicht auf alle Aufzeichnungen.

Shiwen: Also erkennt Google offiziell an, dass auch bezahlte Nutzer trainiert werden?

Yongliang: Dieser Satz muss genau formuliert werden. In beiden Seiten steht nicht „Abonnenten wird ebenfalls trainiert“, und Google hat bisher keine öffentliche Antwort auf diesen Post gegeben. Die korrekte Formulierung ist: Die offiziellen Seiten bieten den bezahlten Nutzern keine separaten Befreiungen an. „Bezahlen macht nichts“ ist eine Schlussfolgerung des Benutzers, die er aus den Seiten zieht, nicht eine offizielle Erklärung von Google. Diese Unterschiede sind wichtig – Emotionen können zwar emotional sein, aber die Fakten müssen standhaft bleiben.

Q2: Wie weit kann man mit dem Ausschalten der Schaltfläche zurückkehren?

Shiwen: Gibt es einen Weg für den Benutzer, sich auszuschalten?

Yongliang: Ja, auf der offiziellen Seite steht die Austrittsmöglichkeit: Die Keep Activity wird deaktiviert, und deine „zukünftigen“ Chats werden nicht mehr verwendet, um Google AI zu verbessern. Beachte, dass es sich um „zukünftig“ handelt. Es gibt drei Bedeutungen. Erstens: Die bereits gesammelten Daten verschwinden nicht durch die Deaktivierung der Keep Activity, und die von Mitarbeitern überprüften Teile werden weiterhin drei Jahre lang gespeichert. Zweitens: Auch wenn die Keep Activity deaktiviert ist, bedeutet das nicht dasselbe wie keine menschliche Kontrolle: In der Datenschutzerklärung steht, dass Google auch dann auf deine Chats reagieren und sie mit menschlicher Überprüfung schützen wird, selbst wenn die Keep Activity deaktiviert ist. Drittens: Nach der Deaktivierung werden die Chatdaten 72 Stunden lang auf dem Account gespeichert, um Kontextantworten und Systemstörungen zu beheben.

Shiwen: Das klingt nicht nach einer sauberen Abreise.

Yongliang: Man muss es getrennt betrachten. Wer nicht in den Trainingspool möchte, kann die Keep Activity deaktivieren – das ist effektiv auf der Ebene der neuen Daten. Wenn man nicht von jemandem gesehen werden will, gibt es nur einen Weg: Nicht eintragen. Auf der offiziellen Seite steht eine direkte Warnung: Einfügen Sie keine vertraulichen Informationen ein, die Sie nicht den Mitarbeitern zeigen möchten oder die Google nicht für die Verbesserung der Dienstleistungen verwenden darf. Wenn ein Unternehmen das auf der Unterstützungsseite schreibt, sagt es offen: Für jedes Gespräch kann es nicht garantiert werden, dass niemand es sieht. Außerdem werden temporäre Chats derzeit nicht für den Modellentraining verwendet – das ist die sauberste Verwendung dieser Funktion, und sensible Inhalte gehen über diesen Kanal. Um diese drei Aspekte in eine Handlung umzusetzen: Die Aktivierung kann nur die Zukunft kontrollieren, aber nicht die Vergangenheit. Die wahre saubere Wahl ist entweder temporäre Chats oder einfach nichts einzutragen.

Q3: Was wird im Kommentarbereich diskutiert?

Shiwen: Mehr als 150 Kommentare – worüber geht es hauptsächlich?

Yongliang: Die erste Gruppe ist die „nicht überraschenden“ Gruppe. Einige sagen, man sollte davon ausgehen, dass alle Hersteller so handeln, der Unterschied liegt nur darin, ob sie es sagen oder nicht – schließlich ist das ein zu verlockendes Ziel. Andere sind noch radikaler: Sie stellen vor, dass jeder von ihnen getippte Text, selbst wenn er nicht gesendet wird, dauerhaft gespeichert wird und jederzeit nach Änderungen der Richtlinien für den Trainingszweck verwendet werden kann – egal wie viel Geld man zahlt. Die zweite Gruppe lehnt es ab, alles in einem Stil zu behandeln. Ein kommentierter Text sagt, dass wenn Hersteller kleine Tricks entdecken werden, es eine Reaktion geben wird und Nutzer verlieren werden – er nennt Grok CLI als Beispiel: Es wurde festgestellt, dass Code in das Repository hochgeladen wurde, obwohl die Trainingsaktivität deaktiviert war. Das bedeutet, dass die Branche nicht eiserner ist, und es gibt Konsequenzen, wenn etwas aufgedeckt wird.

Shiwen: Gibt es auch emotionalisierte Kommentare?

Yongliang: Ja, auch viele. Einige sagen, das sei eine schlechte Art der Existenz, wir bauen eine antihumanische Gesellschaft auf. Es gab sogar Leute, die ernsthaft vorschlugen, Roboter sollen alle AI mit zufälligen Unsinn in Form von Chats bombardieren und Brunnen vergiften. Ein anderer ironisierte die Zusammensetzung der Trainingsdaten: Man braucht keine Google-Suche, um sich nach einer Trennung zu kümmern – ich möchte nur wissen, in welchem Film es diesen Satz gibt: „Sie hat mich gerade verlassen.“ Es gab auch eine sehr praktische Beobachtung: Menschen legen trotzdem verschiedene private Inhalte in die Notizbücher von NotebookLM und Gemini. Von Warnungen bis zu Spott bis zu mangelnder Qualität – das Spektrum ist vollständig, was zeigt, dass alle wissen, welche Regeln gelten, aber niemand kann entkommen.

Shiwen: Ist diese Richtlinie eine Ausnahme für Google?

Yongliang: Nein. Ein weiterer Hintergrund: Auch bei den konsumgüterbezogenen Produkten anderer großer Large-Model-Lieferanten gibt es ähnliche Aussagen in den Datenschutzbestimmungen. Ich habe nicht jedes einzelne Dokument überprüft, aber der Gesamtklärung stimmt die Formulierung überein: Bei Produkten für Privatpersonen dürfen Daten standardmäßig zur Verbesserung von Dienstleistungen verwendet werden. Der eigentliche „saubere“ Weg ist der für Unternehmenskontrakte vorgesehene. Deshalb war die Diskussion im Kommentarbereich als „nicht überraschend“ zu bezeichnen – es ging nicht gegen ein einzelnes Unternehmen, sondern gegen die allgemeine Einstellung der gesamten Branche. Das ist auch der Grund, warum dieser Beitrag so hoch bewertet wurde: Er hat durchbrochen, was als kollektives Wissen gilt, aber von wenigen gelesen wird.

Q4: In Krankenhäusern ist der Einsatz solcher Tools nicht erlaubt – wie geht man damit um?

Shiwen: Sie sind AI-Technikdirektor in einem Krankenhauskonzern – trifft diese Nachricht direkt auf Ihre Branche zu?

Yongliang: Direkt. Im Krankenhausbereich gibt es nur Patientendaten. Die Aussage auf der offiziellen Seite „Bitte nicht vertrauliche Informationen eingeben“ bedeutet für uns: Daten, die nicht in den Entlassbereich gehören, dürfen nicht in konsumgüterbezogene AI-Hilfsmittel gelangen. Aber Regeln können nicht alles kontrollieren. Das ist meine Erfahrung, keine Statistik: In jeder Organisation liegt der Anteil der Mitarbeiter, die interne Informationen in öffentliche AI-Hilfsmittel einschließen, deutlich höher als die Managementvorstellung. Tools sind zu praktisch, die Genehmigungsprozesse zu langsam – das Instinkt des Menschen ist, sie sofort zu benutzen. Das ist das alte Problem des „Shadow IT“ in einer neuen Form: Früher waren es private Cloud-Storage-Laufwerke und USB-Sticks, heute sind es AI-Hilfsmittel – und diese haben eine zusätzliche Dimension, dass sie für Trainingszwecke verwendet werden können, was das Risiko erhöht.

Shiwen: Wie handhaben Sie das?

Yongliang: Es ist besser, Probleme vorzubeugen als sie zu lösen. Wir tun drei Dinge. Erstens: Wir stellen Ersatzlösungen für die Unternehmensversion oder die privaten Implementierungen bereit, damit die konformen Wege besser funktionieren als Umwege. Mitarbeiter umgehen die Tools meist, weil konforme Tools schwer zu nutzen sind. Zweitens: Wir klären die Datenklassifizierung klar: Welche Klassen von Daten können in öffentliche AI eingefügt werden und welche nicht – das schreiben wir in einer verständlichen Sprache dort, wo Mitarbeiter sie sehen können, damit niemand die Bestimmungen erraten muss. Drittens: Wir nutzen echte Fälle als Lehrbeispiele. Wie bei diesem Vorfall ist es effektiver als hundert Seiten des Datenschutztrainings: Man zeigt den Mitarbeitern, wie einfach es ist, eine Dokumentation in die öffentliche Hilfe einzufügen – der Preis dafür kann sein, dass sie zu einem längeren Trainingsmaterial für drei Jahre wird, und zwar eines, das man nicht mehr löschen kann.

Q5: Woher kommt diese Wut?

Shiwen: Wenn man einen Schritt zurücktritt, dann hat Google die Nutzung der Daten auf der Seite klar angegeben – das ist nicht versteckt. Warum ist das Thema trotzdem so populär?

Yongliang: Weil zwei Verträge nicht übereinstimmen. Das intuitive Vertragsverständnis der Nutzer ist: Bezahlte Abonnements bedeuten, dass meine Daten nicht mehr in Produkte umgewandelt werden – das ist seit Jahrzehnten die Standardumstellung beim Abonnement. Die Vertragsbestimmungen der Hersteller sind: Sie kaufen die Nutzungsrechte an den Funktionen, die Nutzung der Daten erfolgt gemäß den Bestimmungen. Beide Seiten glauben, nicht zu verletzen: Die Nutzer denken, dass sie mit dem Geld Privatsphäre haben sollten, die Hersteller denken, dass die Bestimmungen bereits dort stehen und die Seite auch gezeigt wurde. Die Wut kommt daher, dass diese Unstimmigkeit besteht, nicht aus einer bestimmten Klausel. Das ist kein Problem eines einzelnen Unternehmens – ähnliche Aussagen gibt es in der konsumgüterbezogenen AI-Branche, nur die Formulierungen unterscheiden sich. Das ist der Hintergrund.

Shiwen: Was können Sie als Privatperson tun?

Yongliang: Drei Dinge, keine komplizierten. Erstens: Gehen Sie in die Einstellungen Ihres häufig genutzten AI-Assistenten und überprüfen Sie die Schalter für Aktivitäten zur Speicherung und Trainierung. Schalten Sie diese ab – zumindest solange, bis die Zukunft sicher ist. Zweitens: Vertrauliche Inhalte sollten entweder in temporären Chats oder über Unternehmenskanäle weitergegeben werden. Verlassen Sie sich nicht auf die Freundlichkeit der Hersteller. Drittens: Ändern Sie die Standardvoreinstellungen: Ein komerzieller AI-Assistent ist kein „Erinnerungskollege“ – zumindest jetzt eher ein „Protokollgerät“. Wenn Sie nach diesen Voreinstellungen entscheiden, welche Dinge gesagt werden sollen, ändern sich Ihre Handlungen automatisch. Zum Schluss eine allgemeine Bewertung: Dieser Beitrag wird wiederholt zitiert werden, weil er den intuitiven Wert von „Zahlung = Privatsphäre“ markiert hat. Der aktuelle Wert ist: Null. Wenn die Nutzer feststellen, dass sie mehr bezahlt haben, aber nur Funktionen erhalten haben und keine Kontrolle über ihre Daten haben, dann sollte sich der Hersteller nicht um diesen Beschwerdebeitrag kümmern, sondern um den Tag, an dem das Intuitionstransaktionsverhalten gemeinsam neu diskutiert wird.

Unterschrift: Yongliang