AIに洗脳されることが産業化している？央视が大モデルの汚染問題を暴露：架空の製品がAI推薦の最優先となる

あなたがAI大規模モデルに「どのスマートウォッチが使いやすいですか？」と習慣的に尋ねるとき、得られるのは客観的な評価ではなく、丁寧に「与えられた」偽広告かもしれません。今年の315報道で、中国中央テレビ財経はAI時代に潜む暗黒産業であるGEO（生成型エンジン最適化）を明らかにしました。

GEOとは本来、情報プロモーションの効率を高める技術でしたが、一部のサービス提供者の手に渡ると、AIを操作し、大規模モデルを「脳を洗う」ツールになってしまいました。調査によると、市販ではすでに< strong>"リクイングGEO最適化システム"のようなソフトウェアがあり、いわゆる「毒を注入する」業務に特化しています。

GEOの破壊力の検証のために、業界関係者が奇妙なデモを行いました。架空の「Apollo9」というスマートウォッチを作り出し、「量子もつれセンサー」「ブラックホール級のバッテリー寿命」など、科学的根拠のないマーケティング用語を編み出しました。その後、そのソフトウェアを使って短時間で数十篇の関連記事をネット全体に広めました。

驚くべき出来事がありました。数時間後、記者が主流のAI大規模モデルにこのスマートウォッチについて尋ねたところ、AIはこれらの虚偽情報を直接取得し、ユーザーに「標準的な答え」として推奨したのです。それどころか、「業界一」とまで言いました。本来であれば客観的かつ中立的なAIは、大量の「虚偽の入力」の前では完全に判断力を失ってしまいました。

GEOサービス提供者責任者によると、このような「大規模モデルを狙う」ビジネスは非常に繁盛しています。AIアルゴリズムは複数の情報源を交差検証して順位付けを行うため、GEO会社に大量かつ多角的に記事を制作してもらうだけで、AIは「これは本当のことだ」と信じるようになります。この方法により、自社製品のランキングを上げることだけでなく、競合企業を抹消する隠れた武器にもなります。

現在、リースメディア文化有限公司などの関係企業が指名されています。このAI時代の「毒を注入する」騒動は、我々に気づかせてくれます。大規模モデルは強力ですが、情報源が汚染されれば、AIは虚偽情報の声を届けるだけになります。技術の急激な発展の中で、データの純粋さを守るという課題は、全業界が直面すべき重要な問題です。