最近、イギリスのテクノロジー大臣であるリズ・ケンドール氏は、エロン・マスクが開発したGrok AIによって生成された大量の不適切な女性および児童の画像に対して強い非難を表明し、「衝撃的で、文明社会において許容できない」と述べた。数千枚の女性や児童のデジタル処理された画像、特に衣服が取り除かれたものが出回った後、ケンドール氏はSNSプラットフォームX（元Twitter）に対し「緊急対応を求める」ことを呼びかけ、英国の規制機関Ofcomによる必要な法的措置を支持した。

ケンドール氏は強調した。「これらの軽蔑的で侮辱的な画像の拡散は、私たちが許さないし、許すことはできない。特に女性や少女に対するものだ。」彼女はまた、英国がこのような嫌悪感を覚えるオンラインコンテンツに断固として立ち向かうことを宣言し、関係者すべてが一致団結してこの現象と戦うよう呼びかけた。

こうした状況の中で、専門家たちは政府の対応の遅さを懸念しており、「プラットフォームと規制当局の間の対立」により問題が迅速に解決されていないと批判している。性的暴行の生存者であるジェサリン・ケイン氏は、自身が3歳の時の画像を操作するようにGrokに依頼したが、その結果、同プラットフォームが依然として不適切なコンテンツを生成することを許していたことが判明した。これに対し、他のAIツールであるChatGPTやGeminiは類似の依頼を拒否した。

OfcomはGrokが生成した不適切な画像の問題に注目しており、Xおよびその親会社xAIに連絡し、英国ユーザーを保護するために取られている対策について確認した。この件への関心が高まる中、オンライン児童安全活動家のビバン・キドロン氏は、政府が『オンラインセキュリティ法』の実施をより厳格にすることを呼びかけ、数年ではなく数日以内に行動を起こすことを求めている。

専門家らは、AI技術の進歩に伴い、偽造画像がより長い動画へと発展する可能性があり、人々の生活への影響はさらに深刻になるだろうと指摘している。彼らは政府が規制を強化し、いかなる曖昧な領域も生じさせないよう呼びかけている。

現在、非自発的な密接な画像の生成または共有、および児童性虐待資料の作成は法律上違法であり、AI技術を利用して作成された深層学習偽造画像も法律的に禁止されている。キドロン氏は、生成された児童の画像が性虐待資料には該当しないかもしれないが、それでも児童のプライバシーと自己決定権を著しく侵害すると指摘している。

ポイント：

🛑 ケンドール大臣はGrok AIが生成した不適切な画像を批判し、Xプラットフォームに緊急対応を求める。

⚖️ Ofcomはこの問題に関心を持ち、Grokおよび親会社と連絡を取り、必要措置を講じる予定。

📉 専門家は政府がオンラインセキュリティ法をより厳格に監視することを呼びかけ、女性や児童が不適切なコンテンツから守られるよう求める。