大規模言語モデルの普及に伴い、ハッカーの攻撃手段も進化し、AIプラットフォーム自身の合法的なメカニズムを利用して正確な汚染を行うようになった。セキュリティ会社のPush Securityは最近、新しいネットワーク攻撃活動「LLMShare（大規模言語モデル共有コンテンツの悪用）」を明らかにした報告書を発表した。ハッカーは巧妙にも、悪意のあるコンテンツをOpenAIの公式ドメインに直接ホスティングし、一般ユーザーが公式プラットフォームを信頼するという点を利用し、マルウェアプログラムのダウンロードを誘導している。

この非常に隠蔽された詐欺において、攻撃者はまずChatGPTの強力なコンテンツレンダリング機能を利用して、公式プラットフォーム内でカスタムHTMLページを作成し、公式の「/s/」共有リンクを通じて公開した。その後、ハッカーはグーグル検索エンジンで偽造された上位広告を掲載した。これらの広告は公式ドメインを持つ正当な共有リンクを指しているため、一般のインターネット利用者だけでなく、自動化されたセキュリティ検出ツールでも初期段階では破綻を見つけるのが極めて困難である。

無知なユーザーがグーグル広告をクリックしてそのページにアクセスすると、通常のチャット画面ではなく、非常にリアルな「偽のダウンタイム通知」が表示される。この通知は「現在のアクセス数が多いため、サイトは一時的に使用できません」と伝え、非常に嘘っぽく、「デスクトップアプリケーションをダウンロードして引き続き使用してください」と誘導する。

ユーザーがページ上のダウンロードボタンをクリックすると、悪意のあるポータルサイトにリダイレクトされる。このサイトは偽のWindowsおよびmacOSバージョンのクライアントダウンロードパッケージを提供するだけでなく、高度な伪装技術で検出を回避する。セキュリティスキャンツールがこのサイトを取得しようとすると、完全に無害なバーチャルリアリティ企業のウェブサイトが表示されるが、実際に被害者がアクセスすると、悪意のあるプログラムのダウンロードインターフェースが現れる。セキュリティテストによると、これらの偽のクライアントプログラムは実行後すぐに特定のコマンドを実行し、現在の環境が仮想マシンかどうかを確認し、それによってさらなる侵害を図る。

セキュリティ研究者は、このような大手企業の公式「背書」に完全に依存した攻撃パターンが拡散していると強調している。ChatGPTだけでなく、研究者は関連する被害者の環境でClaudeプラットフォームを対象とした同様の変種アプリケーションも捕獲した。これは、ハッカーが同じ攻撃手法とソーシャルエンジニアリングの言葉を使って、異なる主要なAIプラットフォーム間で横断的なテストを行っていることを意味する。このような合法的な大規模言語モデルドメイン共有メカニズムの欠陥を活かした正確な汚染方法は、現在のインターネットセキュリティ防御システムに対して警鐘を鳴らすものである。