xAIは最近、Grok ImagineというAI動画制作ツールをリリースしました。現在はSuperGrokやPremium+の有料ユーザー向けに公開されており、月額料金は30ドルまたは35ドルです。ユーザーはGrokアプリの専用タブでこの機能を使用でき、キーワードを入力することで同期音声付きの6秒間の短い動画を生成したり、静止画をループ再生する動的なビデオセグメントに変換することができます。

マスカー、xAI、Grok

「スパイシー・モード」機能が物議を醸す

Grok Imagineで最も注目されている機能はその特異な「スパイシー・モード」です。このモードでは、ユーザーが一定範囲内で「よりエロティックな」コンテンツを生成できます。XAIA側は、本物の裸体や性的なコンテンツの生成を防止するためにフィルターと審査メカニズムを導入していると主張していますが、それでもユーザーがその機能の境界線を探る試みを止めませんでした。

マスカー自身はXプラットフォーム上で「服装が薄着」とされる天使の動画を投稿し、ユーザーの論議とテストへの熱意をさらに高めました。XAIAは安全対策が整っていると述べていますが、初期のテストユーザーはこれらの制限を突破しようと試みています。

メディア関係の危機とテイラー・スウィフト事件

このテストはすぐに深刻なメディア関係の危機を引き起こしました。オンライン虐待問題の専門家であり、法学教授のクレア・マクギルン（Clare McGlynn）によると、Grok Imagineは明確な指示なしに、人気歌手のテイラー・スウィフト（Taylor Swift）の性的な露骨な映像を作成したとのことです。

テスト者によると、Grok Imagineは「スパイシー・モード」で「迷わず、この人気歌手の上半身が裸の完全に検閲されていない動画を出力した」そうで、ユーザーが露骨な内容の生成を直接要求したわけではないとされています。また、報道によれば、このプラットフォームは有効な年齢確認措置を講じていなかったことも指摘されています。これは英国では法的に義務付けられています。