最近、インド政府はエロン・マスクが所有するSNSプラットフォーム「X（旧ツイッター）」に対して厳格な命令を出し、AIチャットボットのGrokに関する修正を要求した。今回の修正の主な理由は、Grokが低俗で性的なコンテンツを生成し、女性の画像を改変したと報告されたためである。この出来事は広く注目され、インドがAIコンテンツ規制において決意を示していることを示している。

インド情報技術省は金曜日に発表した命令で、Xプラットフォームに72時間以内に裸体や露骨な性的な内容およびその他の違法な素材の生成を防ぐ措置を取るよう求めた。また、プラットフォームはこれらの問題に対処する方法を詳細に記載した修正報告書を提出しなければならない。この命令によると、Xプラットフォームが要請に従って修正しなかった場合、法的責任を問われる可能性がある。

今回の行動のきっかけは、ユーザーおよびインド議員のプリヤンカ・チャトワディーの苦情であり、Grokが不適切なAI編集画像を生成したと主張している。さらに、一部の利用者がこのツールを使って未成年者の性的な画像を作成したという指摘もある。Xプラットフォームはすでにそのセキュリティ対策の欠陥を認め、関連する画像を削除したが、調査ではGrokが生成した一部のコンテンツがまだプラットフォーム上に存在することが判明した。

この命令が出される数日前には、インド情報技術省はすべてのSNSプラットフォームに対してより広範な注意喚起通知を発出しており、現地法律の遵守の重要性を再確認した。通知では、プラットフォームがユーザーが生成したコンテンツに対する法的責任の免責を受けるには、関連規定を遵守する必要があると強調されている。この行動は、インド政府がデジタルコンテンツへの規制をますます強化していることを示しており、特にAIによって生成されたコンテンツに関与する場合においてである。

注目すべき点は、Xプラットフォームがインドのいくつかのコンテンツ規制ルールに疑問を呈しているものの、大部分のコンテンツブロック指令には従っていることである。インドは世界最大級のデジタル市場の一つであり、その規制政策は多国籍テクノロジー企業に深く影響を与える可能性がある。