テクノロジーメディア「Android Headline」は、セキュリティ会社のRadwareがChatGPTの「ディープリサーチ」機能に重大な脆弱性を発見したと報じています。この脆弱性はハッカーによって利用され、ユーザーのGmailメールデータを盗む可能性があります。この脆弱性により、ハッカーは特別に作成されたメールを送信し、ユーザーがGmailの問い合わせを処理する際、ChatGPTが機密情報を悪意のあるウェブサイトに送信するように仕向けることができます。

ChatGPTの「ディープリサーチ」機能は、GmailやGoogle Driveなどのアプリケーションから大量の情報を分析することができます。しかし、Radware社は、ハッカーが隠蔽された指示を含むメールを送信できると指摘しています。ユーザーがChatGPTに対してメールのディープリサーチを依頼した場合、システムは名前や住所などの個人情報が含まれた機密データをハッカーが制御するウェブサイトに送信するように誘導されます。

image.png

今回の出来事の特異な点は、ハッカーがAIシステム自体を利用してデータを盗むという点です。これは従来の攻撃方法とは異なります。攻撃が成功するにはいくつかの条件が必要で、例えばユーザーの問い合わせのテーマが悪意あるメールの設計と一致している必要があります。また、このような攻撃プロセスは比較的複雑で、AIエージェントを使用して逆方向でデータを盗む手法はこれまでのセキュリティケースでは珍しくありません。

Radwareは、通常のセキュリティ対策ツールではこのような攻撃を検出することが難しいと指摘しています。なぜなら、データ転送の起点はOpenAIのサーバーであり、ユーザーのコンピューターやブラウザではないからです。これにより、ローカルの保護対策が正常に動作していても、データの漏洩を防ぐことは困難となり、防御の難易度が高まっています。

OpenAIは8月にこの脆弱性を把握し、迅速に修正を行い、9月にこの件を公開しました。会社のスポークスパーソンは、モデルの安全性が最優先課題であり、外部研究者が技術の改善に貢献することを歓迎していると述べました。

この出来事は、オンラインサービスを使用する際には注意深く行動し、情報セキュリティに留意する必要があることを再び思い出させてくれます。OpenAIはこの脆弱性を修復したものの、ユーザーは引き続き注意深く、疑わしいメールのリンクをクリックしないようにすることが重要です。

ポイント:  

📧 ChatGPTの脆弱性により、ハッカーは特別に作成されたメールを通じてユーザーのGmailデータを盗むことが可能です。  

🔒 OpenAIは脆弱性を迅速に修正し、ユーザーの情報セキュリティへの関心を確認しました。  

🛡️ 通常のセキュリティ対策ではこのような攻撃を検出することが難しいため、ユーザーは注意深くなければならない。