アントロピックの Claude の共有チャット機能でプライバシーのリスクが暴露される。大量の会話がグーグルに収録される

アンソロピックが提供するAIアシスタントのクレードが、最近、チャット履歴の共有が検索エンジンに収録されるという問題を抱えました。大量のユーザーが生成した会話や、クレードで作成されたインタラクティブなアプリおよびドキュメントがグーグルの検索結果に表示され、AI製品のプライバシーとセキュリティに対する懸念を引き起こしました。

この出来事は、先週土曜日にRedditのユーザーによって最初に発見されました。ユーザーは「site:claude.ai/share」などの演算子を使ってGoogleで検索し、一部の公開されたクレードのリンクを検索できました。その中には、健康記録、企業内の文書、児童の名前や電話番号などの機密情報が含まれていました。その後、404Mediaは月曜日の午前中に報道を行いました。

この問題は、クレードの「チャットを共有」機能に関係しているようです。この機能は、ユーザーが公開リンクを作成し、リンクを持つ誰でも対応する会話やプロジェクトを見ることができるようになります。クレードのインターフェースでは、「リンクを持っている誰でも表示できる」という注意書きがありました。しかし、この設計は主に友人や同僚、小規模なグループとの共有を想定しており、インターネット全体に公開するためのものではありません。

アンソロピックは、共有リンクがユーザーがフォーラムやソーシャルメディアなど、検索エンジンによってキャッチ可能な場所に積極的に投稿された場合にのみ、検索結果に表示される可能性があると述べました。会社はグーグルなどの検索エンジンにチャット履歴やサイトマップを意図的に提供しないと説明しています。アンソロピックのスポークスパーソンであるエミ・ローゼハム氏は、ユーザーが公開して共有した後、関連するコンテンツが他の公開ネットワークコンテンツと同じように、第三者サービスによって収録される可能性があると語りました。

暴露された内容には、コード、作業ノート、企業内資料、医療報告書、臨床試験ファイル、および従業員評価などが含まれています。Futurismは、一部の公開されたコンテンツが実際の患者情報や児童の連絡先を含んでいると報じました。また、『フォーチュン』は、『Anthropic共有』と表記されたチャット履歴の一例として、クレードがポルノグラフィックなコンテンツを生成したと伝えています。一方で、アンソロピックの利用規約はポルノグラフィックなコンテンツの生成を明確に禁止しています。

月曜日午後に、TechCrunchは関連方法を用いてテストを行い、以前公開されていたコンテンツは検索できなくなったと報告しました。これは、この問題が一定程度解決されていることを示唆しています。グーグル側は、どのウェブページがサイト所有者によって意図的に公開されるかを制御することはできないと述べており、サイト所有者は関連メカニズムを通じて、ページが取得または収録されるかどうかを制御できます。

これまでにも、類似するAIチャットのプライバシーの問題が発生したことがあります。昨年、フォーブスは数百のクレードチャット履歴が検索エンジンに収録されていると報じました。グーグルはそのうち約600件の会話をインデックスに含んでいると推定していました。同年、404Mediaは研究者が約10万件の公開共有設定されたチャットGPTの会話をキャプチャしたことも報じました。

今回の出来事は、AIチャットツールがオフィス、医療、教育などのシーンに導入されるにつれて、公開共有メカニズム、データ権限管理、および検索エンジンインデックス制御がAI製品のセキュリティ設計において重要な要素となることを再確認させました。ユーザーは、クレードの「設定→プライバシー→チャット共有」から、すでに公開されているチャットリンクを確認できます。