Shiwen Dialogue 041 | Payer n'empêche pas ses chats de nourrir Gemini

Petit dialogue d’ouverture

Shiwen: Le 4 novembre, un utilisateur nommé jameslk a posté sur Hacker News : il a consulté les instructions officielles de sa souscription payante à Google AI pour confirmer que Gemini utilisait ses histoires de conversation pour entraîner son modèle. Le post a rapidement atteint plus de 600 points et a reçu plus d’une centaine de commentaires. Yongliang, qu’a-t-il découvert ?

Yongliang: Ce qu’il a découvert n’était pas une faille, mais des clauses. Il a lu deux pages officielles de Google pour confirmer quelques points. Premièrement, tant que l’option « Keep Activity » est activée, les enregistrements de conversation stockés par Gemini peuvent être utilisés pour améliorer les services, y compris pour entraîner des modèles d’IA générative. Deuxièmement, les pages officielles ne fournissent pas de clauses d’exemption spécifiques aux utilisateurs payants. Sa conclusion : avoir l’option activée par défaut signifie que l’on entre dans la piscine d’entraînement. Troisièmement, une partie des conversations peut être lue par des réviseurs humains. Ses mots exacts étaient : « Je pensais que s’abonner payant signifiait ne pas se transformer en produit, mais apparemment le paiement seul n’est pas suffisant ». Il a également ajouté : il a su trop tard.

Q1 : Que disent vraiment les pages officielles ?

Shiwen: Mettons d’abord les faits au clair. Qu’est-ce que dit le texte original dans ces deux pages ?

Yongliang: La première page traite de l’utilisation des données. L’idée principale est : lorsque votre option Keep Activity est activée, les activités de Gemini, y compris les données des applications que vous connectez, seront utilisées pour améliorer les services Google « pour tous », y compris pour entraîner des modèles d’IA générative. Il y a aussi une information facilement négligée : déconnecter une application ou supprimer les données de l’application source ne signifie pas que les données de conversation de Gemini sont supprimées ; ces données peuvent toujours être utilisées pour améliorer le produit et entraîner des modèles. Une autre information : si les données ont déjà été examinées par des réviseurs, même si vous supprimez vos propres enregistrements de conversation, elles peuvent continuer à être utilisées pour améliorer le produit.

Shiwen: Et la deuxième page ?

Yongliang: La deuxième page est une déclaration de confidentialité, plus complète. Elle explique que Google utilise les activités des utilisateurs pour fournir, développer et améliorer les services, y compris pour entraîner des modèles d’IA générative, et qu’il fait appel à des réviseurs humains pour protéger Google, les utilisateurs et le public. Une partie des conversations sera lue par des réviseurs, y compris des prestataires de services externes qui évaluent la qualité des réponses et proposent de meilleures suggestions pour l’entraînement. Selon Google, les données examinées par les prestataires seront déconnectées de votre compte pendant trois ans. L’important est : les conversations examinées et leurs données associées, comme votre langue, type d’appareil, informations de localisation, retours, ne seront pas supprimées si vous supprimez vos enregistrements de conversation, mais elles resteront stockées pendant trois ans au maximum. Notez bien : ces « trois ans » se réfèrent à la partie examinée, pas à toutes les conversations.

Shiwen: Donc Google admet officiellement que les utilisateurs payants sont également entraînés ?

Yongliang: Il faut dire cela avec précision. Aucune des deux pages ne mentionne explicitement « les utilisateurs abonnés sont également entraînés ». Google n’a pas encore répondu publiquement à ce post. La version exacte est : les pages officielles ne fournissent pas de clauses d’exemption spécifiques aux utilisateurs payants, et « même le paiement ne suffit pas » est une conclusion tirée par l’auteur du post, mais pas une affirmation officielle de Google. Cette différence est importante ; les émotions restent des émotions, mais les faits doivent être solides.

Q2 : À quel point peut-on revenir en arrière après avoir désactivé l’option ?

Shiwen: Y a-t-il un moyen pour l’utilisateur de se retirer ?

Yongliang: Oui, la page officielle indique le chemin pour sortir de cette fonctionnalité : désactiver Keep Activity, afin que vos conversations « futures » ne soient plus utilisées pour améliorer Google AI. Il faut noter ces deux mots “futur”. Trois significations. Premièrement, les données déjà générées ne disparaîtront pas en raison de l’arrêt de cette fonctionnalité ; les parties soumises à vérification manuelle seront conservées pendant trois ans. Deuxièmement, l’arrêt de cette fonctionnalité ne signifie pas une fin complète de la contacte humaine : la déclaration de confidentialité stipule que même si Keep Activity est désactivé, Google continuera à utiliser vos conversations pour répondre à vos demandes et à assurer la protection de la sécurité avec des vébélisateurs. Troisièmement, les archives de conversations seront conservées dans votre compte pendant 72 heures, afin de permettre des réponses contextuelles et de résoudre les pannes systémiques.

Shiwen: Cela semble ne pas être une solution complètement sûre.

Yongliang: Il faut regarder les choses séparément. Pour ceux qui ne veulent pas rejoindre la piscine de formation, désactiver Keep Activity est efficace du point de vue des données nouvelles. Pour ceux qui ne veulent pas être vus par qui que ce soit, il n’y a qu’une solution : ne pas entrer. La page officielle contient un avertissement clair : ne fournissez pas d’informations confidentielles que vous ne souhaitez pas que les vébélisateurs voient ou que Google ne utilise pas pour améliorer ses services. Une entreprise qui écrit cela sur la page de support signifie clairement qu’elle ne peut garantir que aucune conversation ne soit vue par personne. De plus, les conversations temporaires ne sont actuellement pas utilisées pour entraîner des modèles, c’est l’utilisation la plus sûre, et les contenus sensibles passent par cette voie. En résumé, le commutateur ne contrôle que le futur, mais pas le passé ; la seule option sûre est de utiliser des conversations temporaires ou de ne rien entrer du tout.

Q3: Qu’est-ce qui se dit dans les commentaires ?

Shiwen: Plus de cent cinquante commentaires, sur quoi portent-ils principalement l’attention ?

Yongliang: La première faction est celle qui dit “pas surprenant”. Certains disent que vous devriez supposer que tous les fabricants font cela, la différence réside seulement dans le fait de le dire ou non, car c’est un objectif trop tentant. D’autres sont plus radicaux : ils supposent que chaque mot que vous écrivez, même si vous ne l’envoyez pas, est stocké permanentement et peut être utilisé pour la formation à tout moment, quel que soit le prix payé. La deuxième faction s’oppose à la généralisation ; un commentaire très approuvé dit que si les fabricants commettent des erreurs, cela provoquera une réaction négative et perdrara des clients. Il a donné l’exemple de Grok CLI : on a découvert qu’ils continuaient à télécharger du code dans le repository même lorsque la fonctionnalité de formation était désactivée. En d’autres termes, le secteur n’est pas homogène, et il y a des conséquences si cela est révélé.

Shiwen: Qu’en est-il des personnes émotionnelles ?

Yongliang: Il y en a aussi. Certains disent que c’est une mauvaise façon de survivre, nous construisons une société anti-humaine. Certains ont même suggéré sérieusement d’envoyer des robots des messages indésirables à tous les AI, ou de tromper les gens en utilisant des mots comme “elle vient de me quitter”. Un autre a critiqué la composition des données de formation : il n’est pas nécessaire de faire des recherches sur Google pour s’occuper de moi après une rupture, je voulais juste savoir dans quel film on trouve cette réplique “Elle vient de me quitter”. Il y a aussi une observation très pratique : les gens continuent à mettre divers contenus privés dans les fonctionnalités de note de NotebookLM et Gemini. De l’avertissement à la moquerie, le spectre est complet, ce qui montre que tout le monde connaît les règles, mais personne ne peut s’échapper.

Shiwen: Est-ce que ces conditions sont une exception pour Google ?

Yongliang: Non. Pour compléter le contexte : les produits de consommation des autres grandes entreprises de modèles prédictifs principaux comportent également des dispositions similaires. Je n’ai pas vérifié chaque clause individuellement, mais l’ensemble est globalement cohérent : pour les produits destinés aux particuliers, les données peuvent par défaut être utilisées pour améliorer les services, tandis que le seul moyen sûr pour les entreprises est de contracter. C’est pourquoi, lorsque la section des commentaires a déclaré « pas surprenant », il ne s’agissait pas d’une entreprise en particulier, mais de l’acceptation générale de l’industrie. C’est aussi pourquoi cette publication a pu atteindre plus de six cents points : elle a percé un voile de connivence collective que peu de gens ont lu dans le texte original.

Q4 : Il n’est pas permis d’utiliser ce type d’outil dans les hôpitaux, qu’en faites-vous ?

Shiwen: Vous êtes directeur technique AI dans un groupe hospitalier, cette nouvelle vous concerne-t-elle directement ?

Yongliang: Oui, directement. Dans le contexte hospitalier, il y a uniquement des informations sur les patients. La phrase « Ne pas entrer d’informations confidentielles » devient ici une règle stricte : les données provenant de la zone de sortie ne doivent absolument pas entrer dans les assistants AI de consommation. Mais les réglementations ne suffisent pas. C’est mon expérience, pas une statistique : dans n’importe quelle organisation, le pourcentage de collaborateurs qui utilisent des informations internes dans des outils AI publics est bien plus élevé que ce que la direction imagine. Les outils sont trop pratiques, les processus de validation trop lents, et l’instinct humain est de les utiliser d’abord. C’est le vieux problème du shadow IT mais sous une nouvelle forme : avant c’était les disques durs personnels et les clés USB, maintenant c’est les assistants AI, avec une dimension supplémentaire de « possible utilisation pour l’entraînement », ce qui augmente le niveau de risque.

Shiwen: Comment gérez-vous cette situation ?

Yongliang: Il vaut mieux prévenir que guérir. Nous faisons trois choses. Premièrement, nous fournissons des alternatives pour les versions commerciales ou privées, afin que le chemin conforme soit plus pratique que celui qui nécessite de contourner les règles ; la plupart du temps, les employés contournent les outils parce qu’ils sont difficiles à utiliser. Deuxièmement, nous précisons clairement la classification des données : quels niveaux peuvent être utilisés dans les AI publiques, et quels niveaux sont absolument interdits, en langage simple et visible pour les employés, sans que personne ne puisse deviner les clauses. Troisièmement, nous utilisons des cas réels comme matériel pédagogique. Comme dans ce cas, c’est plus efficace qu’un cours de confidentialité de cent pages : nous montrons aux gens à quel point il est pratique d’utiliser un document dans un assistant public, mais le prix à payer peut être de devenir le plus long corpus d’entraînement de trois ans appartenant à quelqu’un d’autre, et même après vérification, vous ne pouvez pas le supprimer.

Q5 : D’où vient cette colère ?

Shiwen: Si l’on regarde les choses de plus près, Google indique clairement l’utilisation des données sur la page, ce qui n’est pas un secret. Pourquoi cette controverse persiste-t-elle ?

Yongliang: Parce que deux contrats sont incohérents. La perception intuitive des utilisateurs est que le fait de payer une abonnement signifie que leurs données ne seront plus utilisées pour produire des produits, c’est l’équilibre par défaut de plusieurs décennies avec les abonnements. Les clauses des fabricants indiquent que ce que vous achetez est le droit d’utilisation des fonctionnalités, et que l’utilisation des données se fait conformément aux clauses. Les deux parties pensent qu’elles ne sont pas en défaut : les utilisateurs pensent qu’ils ont droit à la confidentialité parce qu’ils ont payé, tandis que les fabricants pensent que les clauses sont clairement écrites et montrées sur la page. La colère vient de cette contradiction, et non d’une seule clause en particulier. Ce n’est pas un problème de l’une ou l’autre entreprise, mais c’est une tendance récurrente dans l’industrie des AI de consommation, avec des formulations différentes, c’est le contexte.

Shiwen: Alors, que peut-on faire pour les particuliers ?

Yongliang：Trois choses, aucune n’est compliquée. Premièrement, accédez aux paramètres de votre assistant AI habituel et vérifiez les commutateurs liés à la sauvegarde des données et à l’entraînement. Éteignez au moins ceux qui concernent le futur. Deuxièmement, les informations confidentielles doivent être transmises via des conversations temporaires ou par voie corporate, sans espérer la bienveillance des fabricants. Troisièmement, changez la préférence par défaut : un assistant AI de consommation n’est pas un « collègue avec une mémoire », au moins pour l’instant, il ressemble plutôt à un « terminal qui transmet des enregistrements ». En choisissant cette préférence, vous déterminez quelles informations être transmises, et votre comportement change naturellement. Enfin, une conclusion générale : ce post sera cité à plusieurs reprises, car il établit clairement le principe intuitif que « payer = confidentialité ». Le prix actuel est zéro. Lorsque les utilisateurs se rendent compte qu’ils ont payé plus pour obtenir des fonctionnalités plutôt que la souveraineté sur leurs données, ce dont les fabricants devraient vraiment s’inquiéter n’est pas ce litige, mais le jour où le contrat intuitif sera réévalué collectivement.

---

Signé : Yongliang