BLOG
拾闻対談 041｜サブスクを払っても、チャット履歴は学習プールに入る
開場小対談
拾聞：11月4日、jameslkというユーザーがHacker Newsに投稿を発しました。彼は自身の有料Google AIサブスクリプションの公式説明を読み、Geminiが自分のチャット履歴を使ってモデルを訓練することを確認しました。その投稿はすぐに600点以上の評価と150件以上のコメントを獲得しました。永亮、彼は一体何を発見したのでしょうか？
永亮：彼が発見したのは脆弱性ではなく、条項です。彼はGoogleの2つの公式サポートページを読み、いくつかのことを確認しました。第一に、「Keep Activity」というオプションがオンであれば、Geminiが保存するチャット記録はサービスの改善に使用され、生成型AIモデルの訓練にも利用されるということです。第二に、有料ユーザーには特別な免除条項がないということで、彼の結論は「オプションがデフォルトでオンであれば、訓練プールに入ることになる」というものでした。第三に、一部のチャットは人工審査員によって読まれるということです。彼の言葉を要約すると、「有料サブスクリプションをすると自分を製品に変えることができないと思っていたが、Apparently paying is not enoughだ」と述べています。また、「自分が知っているのが遅すぎた」とも述べています。
Q1：公式ページには何が書かれているのか？
拾聞：まず事実を確認しましょう。それらのページの原文は何を意味しているのでしょうか？
永亮：第一ページはデータ使用についてです。原文の大意は、「Keep Activity」設定がオンであれば、Geminiアプリの活動、つまり接続されているアプリのデータは、「すべての人」のためにGoogleサービスの改善に使用され、生成型AIモデルの訓練にも利用されるということです。また、見過ごしやすい点があります。あるアプリの接続を解除したり、ソースアプリ側のデータを削除したりしても、Geminiの活動データは削除されず、それらのデータは製品改善やモデル訓練に引き続き使用されるということです。さらに、データが既に審査員によって確認されている場合、自分の活動記録を削除しても、それは製品改善に引き続き使用される可能性があります。
拾聞：第二ページはどうでしょうか？
永亮：第二ページはプライバシー声明で、情報量が多いです。Googleはユーザーの活動を利用してサービスを提供・開発・改善し、生成型AIモデルの訓練にも利用するとともに、人工審査員を通じてGoogle、ユーザー、そして公衆を保護すると述べています。一部のチャットは人工審査員によって審査され、審査員には外部サービスプロバイダーが含まれ、彼らは回答の質を評価し、より良い回答の提案を行い、訓練に利用されます。Googleによると、サービスプロバイダーの審査を受けたデータは、3年間アカウントから切り離されて保存されます。重要な点は、「3年」とは審査を受けた部分のことで、全てのチャット記録ではないということです。
拾聞：つまりGoogle公式は有料ユーザーも同様に訓練されることを認めているのか？
永亮：この言葉は正確に述べる必要があります。2つのページともに「サブスクリプションユーザーも同様に訓練される」とは書かれておらず、Googleも現在までこの投稿に対して公開的な回答を出していません。正確な表現は、「公式ページには有料ユーザーに特別な免除条項がない」ということで、この結論は投稿者がページから得たものであり、Googleの公式承認ではありません。この違いは重要です。感情は感情として、事実は根拠のあるものでなければなりません。
Q2：オプションをオフにすると、どの程度まで戻ることができるのか？
拾聞：では、ユーザーが退出したい場合、その方法はあるのでしょうか？
永亮：はい、公式ページには退出方法が記載されています：Keep Activityをオフにすると、「未来の」チャットはGoogle AIの改善に使用されなくなります。注意してください、ここで使われている「未来」という言葉には3つの意味があります。第一に、Keep Activityをオフにしても、既に生成されたデータは消えません。人工的に審査された部分は3年間保存されます。第二に、Keep Activityをオフにしても、人間の接触はゼロにはなりません。プライバシー声明によると、Keep Activityがオフになっていても、Googleは一時的なチャットを使ってあなたに応答し、人工審査員を通じてセキュリティ面での保護を行います。第三に、Keep Activityをオフにしても、チャット記録は72時間アカウント内に保持され、コンテキストへの応答やシステムの障害復旧に使用されます。
拾闻：これは完全に退避できないように聞こえます。
永亮：分けて考える必要があります。トレーニングプールに入りたくない場合は、Keep Activityをオフにすると、新しいデータの面では有効です。誰にも見られたくない場合は、唯一の方法は入力しないことです。公式ページには、審査員が見たくない、またはGoogleがサービスの改善に使用したくない機密情報を入力しないようにという直接的な警告があります。会社がサポートページにこの言葉を書くことは、明らかに「どんな会話も、絶対に誰にも見られていないとは保証できない」という意味です。また、一時的なチャットは現在、モデルトレーニングには使用されていません。これが最も純粋な使用方法であり、機密情報はこのチャネルを通じて送信されます。これら3つの点を一言で表すと、「オフにするかどうかは未来に関わるが、過去に関わらない。本当に純粋な選択肢は一時的なチャットを使うか、入力しないかのどちらかだ」ということです。
Q3：コメント欄では何が議論されているのですか？
拾闻：150以上のコメントがありますが、主に何が言われているのですか？
永亮：第一の派閥は「全く驚かない」派です。ある人は、すべての製造業者が同じように行っていると仮定すべきだと言っています。結局のところ、これは非常に魅力的な目標です。また、ある人はさらに徹底的に、打ち込んだ各文字が、送信されなくても永久に保存され、条項が変更された後にトレーニングに使用される可能性があると言っています。どれだけの金額を支払っても同じです。第二の派閥は一概に言えないと反対しており、高評価のコメントには、製造業者が小さな動きをして見つかった場合、反発があり、ユーザーが離れる可能性があるとあります。彼はGrok CLIの例を挙げています：Keep Activityがオフになっている時にコードリポジトリにコードをアップロードしていることが発覚しました。つまり、業界は一枚岩ではなく、暴露されると代償が伴うということです。
拾闻：感情的な意見もありますか？
永亮：少なくありません。ある人は、これは悪い生存方法であり、私たちは反人間的な社会を作っていると言っています。中には、すべてのAIにランダムなゴミを送り込むロボットを作るべきだと提案する人もいます。また、別の人はトレーニングデータの構成を皮肉っています：Google検索が必要なくなり、私はただどの映画に「彼女は私を振った」というセリフがあるか知りたいだけです。また、実用的な観察もあります：人々は依然としてさまざまなプライベートコンテンツをNotebookLMやGeminiのノート機能に入れています。警告から嘲笑まで、幅広い意見があり、問題を明確にしています：皆がルールを知っているが、逃げることはできない。
拾闻：この条項はGoogleだけの特例ですか？
永亮：いいえ。補足的な背景：他の主要な大規模モデルメーカーの消費者向け製品にも、同様の記述がデータ条項にあります。具体的な条文は一つ一つ確認していませんが、大体の方針は一致しています：個人向け製品では、データはデフォルトでサービスの改善に使用できますが、本当にクリーンな道は企業契約の項目です。だから「全く驚かない」というコメントが多くあった時、批判されているのは一社ではなく、業界全体のデフォルト設定です。これがこの投稿が600点以上の評価を受けた理由です：それは、集団で理解しているものの、ほとんどの人が原文を読まない状況を突き破ったからです。
Q4：病院ではこのようなツールを使用することが許されていません。どう対応しますか？
拾闻：あなたは病院グループでAI技術ディレクターをしていますが、このニュースは直接あなたの業界に影響を与えますか？
永亮：間違いなく影響します。病院の環境では患者情報が満載です。公式ページの「機密情報を入力しないで」という文言は、私たちにとっては鉄則です：退院エリアのデータは、消費者向けAIアシスタントには一切使用できません。しかし、制度だけでは対応できません。これは私の経験です。どの組織でも、従業員が内部資料を公共AIツールに投稿する割合は、管理層が想像しているよりもはるかに高いです。ツールが使いやすすぎて、承認が遅すぎるため、人々はまず使ってみたくなります。これはシャドウITの古い問題が新しい形で現れたものです：以前は個人用のネットワークドライブやUディスクでしたが、今はAIアシスタントです。そして、AIアシスタントには「トレーニングに使用される可能性」という次元が加わり、リスクレベルが高くなりました。
拾闻：どのように対応していますか？
永亮：堵（塞ぐ）よりも疏（避ける）が良いです。私たちは3つのことを行っています。第一に、企業版やプライベートな展開用の代替品を整備し、コンプライアンスのある方法を使いやすくします。従業員がツールを避けるのは、コンプライアンスツールが使いにくいからです。第二に、データの階層を明確にします：どのレベルのデータが公共AIに使用でき、どのレベルは絶対にダメかを、従業員が見える場所に書き出します。そうすれば、人々が条文を推測する必要がありません。第三に、実際のケースを教材として使います。今回のような例では、100ページの保密トレーニングよりも効果的です：皆に実際に見てもらい、公共アシスタントに文書を投稿する利便性の代償は、それが他人の長期3年間のトレーニングデータになることであり、また、審査済みのデータは削除できないことです。
Q5：怒りはどこから来るのか？
拾闻：一歩引いて見ると、Googleがデータの使用目的をページに明記しているのは、隠しているわけではありません。なぜみんなこれほど怒っているのでしょうか？
永亮：それは2つの契約がずれてしまっているからです。ユーザーの直感的な契約は：有料サブスクリプションは私のデータが製品として利用されないことを意味します。これは数十年にわたるサブスクリプションのデフォルトです。メーカーの条項では、あなたが購入したのは機能の使用権であり、データの使用目的は条項に従います。双方とも自分が違反していないと感じています：ユーザーはお金を払ったのでプライバシーを持つべきだと思い、メーカーは条項が既に書かれているし、ページも見せられたと感じています。怒りはこのギャップから来ており、特定の条項からではありません。これはどの企業の問題でもなく、消費者向けAI業界全体で同様の方針が存在し、書き方は異なります。これが背景です。
拾闻：では、個人として何ができるでしょうか？
永亮：三つのこと、どれも複雑ではありません。第一に、よく使うAIアシスタントの設定に入り、活動保存やトレーニングに関連するスイッチを確認し、少なくとも将来を守るためにそれらをオフにしてください。第二に、機密情報は一時的なチャットか企業のチャネルを通じてのみ扱い、メーカーの善意を期待しないでください。第三に、デフォルト設定を変更してください。消費者向けAIアシスタントは「記憶を持つ同僚」ではなく、少なくとも今は「記録を提出する端末」のようなものです。この設定に従って何を入力するかを決めれば、行動も自然と変わります。最後に総合的な判断として、この投稿は繰り返し引用されるでしょう。なぜなら、「支払い＝プライバシー」という直感的な価値観を示したからです。現在の価値は「ゼロ」です。ユーザーが自分が多額を支払ったにもかかわらず機能だけを得てデータの所有権を得られないと気づいた時、メーカーが本当に心配すべきなのはこの苦情投稿ではなく、直感的な契約が集団で再交渉される日です。
署名：永亮