2026年3月15日、中国中央放送総台「3・15」番組は正式にAI大規模モデルが悪意ある「デーモン（毒）」に汚染されている現象を暴露しました。その中で、北京リシメディア文化伝播有限公司が運営する「リクェイGEO最適化システム」は、偽情報の製造と拡散によってAIモデルを誤導した疑いがあるとして指摘されました。

央视の調査によると、このシステムは一括で架空の製品情報をおよび宣伝記事を生成し、生成型AIの収集メカニズムを利用して「デーモン」攻撃を行っていました。関連テストでは、完全に架空のハードウェア製品パラメータを入力しても、このシステムはユーザーにより多くの偽コンテンツをインターネットに浸透させることができ、最終的には多数の主要なAI大規模モデルに真実の例として推薦されるように誘導することが確認されています。

GEO

天眼查データによると、問題の会社である北京リシメディア文化伝播有限公司は2018年に設立され、資本金は100万元で、李千鐘が完全に出資しています。注目すべきは、この企業は長期間運営異常の端に位置していたことで、2025年の参加保険人数はわずか1人であり、以前から何年も参加保険人数がゼロだったということです。現在、淘宝（タオバオ）、闲鱼（シャンユー）などのショッピングプラットフォームは緊急に「リクエイGEO」に関連する検索結果を削除し、ブロックしています。

今回の出来事は、生成型AI時代における新たなセキュリティリスクを明らかにしました。黒産業グループはAI大規模モデルのトレーニングと検索の欠点を活用し、「デーモン」手段を通じてモデルの出力を操作しています。これはAIデータ管理に対して厳しい課題を提起するだけでなく、大規模モデルのセキュリティ保護が単なるコンテンツフィルタリングから深層的なソースの真実性の確認へと進化することを示唆しています。業界において「データコンプライアンス」と「モデルの頑健性」への投資は、また新たな高まりを迎えることになります。