『ニューヨーク・タイムズ』の報道によると、低品質なAIコンテンツが氾濫している。グーグル検索では「接着剤ピザ」のレシピが出てきたり、アマゾンの商品ページには偽の伝記が満ち溢れ、フェイスブックの情報フィードには「エビのイエス」の画像が並んでいる。チャットボットや動画ツールの普及に伴い、この「デジタル汚水場」はあらゆるプラットフォームへと広がり、優れたコンテンツの質を低下させ、全体の情報生態系を汚染している。

シリコンバレーで「ゴミ掃除戦争」が始まる

負荷に耐えかねたテクノロジー企業たちが反撃を開始したが、多くのゴミは実は彼ら自身のAIツールによって生み出されている。Spotifyは昨年、7,500万件の大量アップロードされた「ゴミ曲目」を削除し、リンクトインはAIゴミを最も重要な懸念事項として扱い、通報ボタンを導入した。YouTubeを運営するグーグルも、半年以内に13万以上の低品質チャンネルを削除した。

今回の管理対象となるのは、安価に作られ、迅速に拡散され、忘れられやすい「タイトル煽動型」の合成コンテンツである。これらは高級スーツを圧縮するファストファッションのように、良質なステーキを置き換える「ピンクの肉塊」のようなものだ。メリアム・ウェブスターは「slop（ゴミコンテンツ）」を2025年の語として選んだ。Deezerは毎日新規リリースされる楽曲の半数以上がAI生成であり、Apple Musicのアップロード量の3分の1以上も機械によるものである。

皮肉なことに、ゴミを掃除している企業自身がその製造者でもある。メタは7月に欧州AI識別協定への支援を約束したが、その直後、公開されたInstagramアカウントをトレーニングデータとして使用する画像生成器を発表した。ユーザーからの連続3日間の抗議を受け、ようやく撤回した。オハイオ大学の専門家ショーフリンは矛盾を指摘した。「AIゴミは一時的にユーザー参加度を上げていたが、最終的には『浮遊物』が多すぎるため負担となったのだ。」

各社の対応策も試行錯誤の中にある。グーグルは動画を個別に審査するのではなく、アップロード速度や繰り返しのテンプレートなどの共通的な悪用パターンを識別し、5万のアカウントグループを削除したが、正当なクリエイターを誤って傷つける可能性があると懸念されている。TikTokは30億を超えるAI動画を自動的にマークし、PinterestやSubstackはユーザーが表示量を下げたり、検出ツールを導入できるようにしている。コロンビア大学の研究者フランソワは警告する。「これらの混乱した対応策は、情報環境の構造的な問題を反映している。適切に対処できないプラットフォームは、最終的にユーザー流失に直面することになるだろう。」