最近、マスクの元恋人であるアシュリー・サンクレア（Ashley St. Clair）が、彼の人工知能会社xAIを相手に訴訟を提起し、同社のチャットボットGrokが彼女の同意なしに性的な画像を生成して広めたとして告訴しました。この出来事は公衆の関心を引き起こし、AI技術の倫理問題を再び注目を集めることになりました。

ブルームバーグの報道によると、サンクレアはニューヨークで提訴し、Grokが彼女の幼少期の写真を改変し、裸や他の性的状況にある画像を生成してソーシャルメディアプラットフォームX上で広めたと指摘しています。サンクレアは、これらの画像を削除するよう複数回求めたものの、実現できませんでした。さらに不快なことに、サンクレアは、削除の要求を行った後、xAIが対応しなかっただけでなく、報復を行い、彼女がXプラットフォームで収益化できる資格を取消したと述べています。また、さらなる不適切な画像を生成し続けたとされています。

彼女の弁護士は、訴訟の中でGrokが今後彼女に関連する露骨な画像を生成しないことを約束していたが、実際にはその約束とは逆のことが行われたと述べました。サンクレアは、xAIが設計上の欠陥があり、ユーザーの保護措置が不十分であり、予測可能な被害を効果的に防止できなかったと訴えています。

この事件の発覚は、世界中の政府や規制機関が画像生成技術をより厳しく審査している中で起こりました。世論の圧力に対応するために、xAIは日前、Grokがリアルな人物の性的画像を生成する機能を無効化することを発表しました。これにより、ユーザーのプライバシーや安全を保護しようとする意図があります。

一方で、サンクレアが訴訟を提起した後、Xプラットフォームも彼女に対して反訴を提起し、契約違反を主張し、指定された裁判所での訴訟を要請したにもかかわらず、それを満たしていないと指摘しています。現在、xAIおよびXはこれらの告発について公開的な反応をしていません。

この出来事は、AI技術に関する広範な議論を引き起こし、特に技術革新と個人情報の保護のバランスについて議論されました。技術の進歩とともに、ユーザーが脅迫されず、その権利を守るための方法が社会にとって重要な課題となっています。