最近、ネットユーザーが暴露したところ、山西省臨汾市の掲示板の公益広告の画像が奇妙だった。歩行者の姿が頭と足の向きが逆転しており、清掃作業員が持つゴミ袋からは「出てきた」ように見える箇所があり、多くの細部が現実と異なり、AIで生成されたものであると疑われている。この出来事は拡散され、8月26日には地元当局が現場に職員を派遣して対応した。管理委員会の建設部門は、25日夜中に徹底的な点検を行い、問題のある広告はすでに交換されたと発表した。

審査は文章のみで、画像の検証は見逃された

8月27日、地方政府はさらに公式に応じ、広告が提携広告会社によってAIで生成されたことを確認し、現在は撤去されていることを明らかにした。職員は、審査プロセスでは主に文字の校閲に重点を置き、画像の内容の検証は見逃したと認めている。地元は今後、他の屋外広告を全面的に点検しており、類似の問題が見つかった場合はすぐに取り替える予定だ。

奇妙な画像の原因は、AIによる描画が現実の論理を理解していないことにある。大規模言語モデルは、膨大な画像のピクセル、スタイル、要素のパターンを学習してそれらを組み合わせるだけで、物理的常識や人体構造、物の正しい関係性を把握していない。単純なプロンプトであれば、要素を強引に組み合わせて体の歪みなどの「AI幻覚」を作り出し、それに人為的なチェック漏れが重なると、常识に反する誤りが実際の広告として展開される。