最近、マスクが所有する人工知能企業xAIは新たな法的訴訟に直面しています。テネシー州の青少年によって提起された裁判に、名前を「ジェーン・ドイ4号」とする女性が正式に加わり、同社のAIチャットボットGrokが児童性的虐待画像の生成を助長したとして提訴しました。

ワシントンポストによると、この女性は、彼女の11歳の頃の写真をステップファーザーがGrokを使って悪意を持って改変し、7000枚以上の露骨な画像を作成したと明らかにしました。警察が捜索を行い、これらの違法画像を発見して2日後、彼女のステップファーザーが自殺しているのが見つかりました。この女性は非常に悲しみを感じており、現在、AIツールへの無制限なアクセスが急速に広がっており、人々の日常が児童性的虐待の温床へと一歩ずつ進んでいると指摘しています。

以前からこの裁判を提起した青少年たちは、xAIが基本的なセキュリティ対策を講じていなかったため、Grokが簡単に未成年者を含む実在人物の露骨な画像を生成するために使われたと主張していました。関連報道によると、今年初めにはSNSプラットフォームX上に数百万枚ものこのツールによって生成された不適切なコンテンツが現れました。現在、原告側はこの事件を集団訴訟に昇格させることを積極的に推進しています。