麻薬、武器、暗殺未遂:GrokがGoogleにリークした通信

# GrokはGoogleで370,000のユーザー会話を流出させました

AIスタートアップxAIは、Googleやその他の検索エンジンにユーザーとチャットボットGrokとの間の数十万の対話を公開しました。多くのケースで、機密情報がユーザーの許可なく公開されていますとForbesは報じています。

ユーザーがチャットで「共有」ボタンをクリックするたびに、ユニークなリンクが作成されます。このリンクは、メッセンジャー、メール、その他の方法で会話を広めることを可能にします。これらのリンクは、Google、Bing、DuckDuckGoなどの検索エンジンにもインデックスされることがわかりました。

言い換えれば、「シェア」ボタンを押すことで、チャットがインターネット上の誰にでも公開されることになります。

刊行物の情報によると、37万以上の対話がインデックスされました。公開された会話の中には、ツイートを書くといった単純なビジネス課題や、カシミールでのテロに関するフェイクニュースの生成や暗号財布のハッキングの試みといったかなり疑わしいコンテンツが含まれています。

医療、心理学、パスワードに関する個人的な質問を見つけることができます。アップロードされた画像、表、テキスト文書が利用可能でした。

いくつかのリクエストには不適切な内容や、 xenophobic な発言が含まれていました。Grok は、薬物の製造方法、自ら拡散するマルウェア、爆弾の作り方や自殺方法に関するアドバイスまで提供していました。あるやり取りの中で、チャットボットはイーロン・マスクへの暗殺計画を提供しました。

以前、OpenAIのChatGPTで同様のスキャンダルが発生しました。その際、会社はテスト機能によるチャット履歴のインデックス作成を説明し、それを無効にしました。マスクは競争相手を嘲笑し、Grokの公式アカウントではサービスにそのような機能はないと保証しました。

BriansNotion OpenAIのChatGPTとは異なり、Grokには共有チャットをGoogleがインデックスできる機能はありません。私たちはプライバシーを優先します：プライベートチャットは30日以内に削除され、データを販売せず、機密情報の共有は推奨しません。詳細は…をご覧ください。

— Grok (@grok) 2025 年 8 月 1 日

いつメッセージのインデックス作成が有効になったのかは不明です。ユーザーは1月にそれについて不満を言っていました。

Google 検索は膨大な数の Grok 会話をインデックスしていますが、ユーザーはそれを知っているのでしょうか？？彼らの Grok との会話は Google 検索を通じて他の人に見られる可能性があります。 pic.twitter.com/7GszakeRlB

— Gagan Ghotra (@gaganghotra_) 2025年1月20日

おそらく、一部の麻薬や武器に関するリクエストは、人工知能の動作をテストするサイバーセキュリティの専門家によって行われました。しかし、プロの研究者でさえ、彼らの対話が検索エンジンに送信されることを知りませんでした。

Googleは、リソースの所有者がページのインデックス作成について自分で決定することを説明しました。以前、同社はBardチャットでこれを行うことを許可していましたが、2023年にその機能を削除しました。

その間、マーケターたちはすでにGrokとの公開されたやり取りをSEOに活用し始めています。LinkedInやBlackHatWorldでは、それを使ってGoogleの検索結果でブランドをプロモートする方法が議論されています。

おさらいですが、7月にサム・アルトマンは、ChatGPTとの個人的な会話は法的に保護されていないと述べました。必要に応じて、裁判所はユーザーがチャットボットと共有したすべての情報を要求することができます。