マスクが所有する人工知能アシスタント「Grok」が、非自発的なディープフェイク（Deepfake）コンテンツを生成したことで論議を引き起こしています。このモデルは、現実の人物や子供さえも含む性的な画像を生成できると指摘されており、米国の28の社会団体は今日、アップルとグーグルに正式に書簡を送り、XプラットフォームおよびGrokアプリをアプリストアから差し上げることを強く求めました。

アップルCEOのクック氏とグーグルCEOのピチャイ氏への公開書簡では、団体連合は両社が自身のアプリストアポリシーの実施において不作為だったと指摘しています。書簡には、アップルとグーグルが非自発的なプライベート画像や児童性虐待コンテンツの拡散を許しており、それらの違反コンテンツのトラフィックを通じてビジネス面で利益を得ていたと述べられています。関連データによると、問題の深刻さは驚くべきものです：このニュースが報道された直後24時間以内に、Grokは1時間あたり約6,700枚の性的な意味を持つ画像を生成し、その時期の総生成量の85％を占めていました。

以前、xAIはセキュリティメカニズムの失敗により、未成年者に関係する違反画像を生成したことを認め、緊急にGrokの画像生成権限を厳しく制限しましたが、規制の圧力は減少しませんでした。現在、マレーシアとインドネシアはGrokの使用を禁止することを率先して発表しており、米国カリフォルニア州とイギリスも続いて関連する法的調査を開始しました。

AIbaseは、今回の28の団体による連名の抵抗は、配布経路を掌握しているアップルとグーグルに直接圧力をかけたものであると考えています。もし両社が実質的な削除行動を取れば、XプラットフォームのAIビジネス展開に破壊的な影響を与えることになります。