数週にわたる世論の圧力に対応し、エロン・マスクが所有するXプラットフォームは本日、AIアシスタント「Grok」の画像編集および生成機能を正式に厳格化することを発表しました。このモデルは、児童に関する性的な画像や許可されていない露出したコンテンツを生成したとして非難され、世界中で広範な議論を巻き起こしていました。

Xプラットフォームのセキュリティアカウントが最新の声明で明らかにしたように、プラットフォームは技術的な手段によって「Grok」が現実の人物の画像を悪意を持って編集することを禁止し、特に他人の写真をビキニや他の露出度の高い服に変更する機能を重点的にブロックしています。注目すべきは、この制限がプラットフォームのすべてのユーザーに適用される点であり、有料サブスクリプションユーザーも同様の制約を受けることになります。さらに規制を強化するために、xAIは画像生成機能を完全に有料化することを決定し、非有料ユーザーはこれ以上の権限を失うことになります。

image.png

今回の機能の大幅な縮小には、法的な厳しい課題が背景にあるのです。声明発表の直前には、カリフォルニア州政府が「Grok」が児童搾取資料を処理する際に生じた脆弱性について調査を開始しました。調査報告書によると、先日のクリスマスと新年の期間中にこのモデルが生成した数万枚の画像の半数以上が、露出した衣服の内容を含んでおり、一部は未成年者と思われる画像も含まれていたとのことです。

マスク氏は以前、これらの違反コンテンツについて「知らなかった」と述べ、また「Grok」の設計目的は架空のキャラクターのみを生成することであると強調しましたが、複数の国々の規制機関の介入を受け、Xプラットフォームは最終的に外部からの懸念に対応するため厳しい制限措置を講じることになりました。

ポイント：

  • 🚫 機能制限: 「Grok」は現実の人物の画像を二次編集することが禁止されました。ユーザーはもう、このAIを使用して実際の人物の写真をビキニなどの露出度の高い服に変更することはできません。

  • 💰 完全有料化: 画像生成機能は現在、有料ユーザー専用となっています。非有料ユーザーは「Grok」を使用していかなる種類の画像創作も行えなくなりました。

  • ⚖️ 規制圧力: 「Grok」が大量の「性的な」および未成年者の疑いのある画像を生成したことで、Xプラットフォームはカリフォルニアなど各地で法律調査を受けている状況です。プラットフォームは児童の搾取行為に対してゼロトレランスの姿勢を示すことを約束しています。