イギリス労働党の議員ジャス・アサート氏は最近、正式にイギリス上級裁判所に対してエロン・マスクが所有する人工知能企業xAIを相手に訴訟を提起しました。アサート氏は声明で、同社のGrok AIプラットフォームが悪意を持って使用され、彼女の個人的な性的なディープフェイク画像を作成し、広めていると指摘しています。

彼女は、数千人の女性および未成年者の権利を侵害する低俗なコンテンツは偶然のミスではなく、製品開発段階での意図的な設計選択であると強調しました。したがって、彼女は法的手段を通じて関連する設計決定の責任を追及し、被告に公開的な謝罪と損害賠償を求めるものです。

禁令は形だけで、悪意のあるコンテンツが氾濫

今年1月中旬に、xAIはGrokの画像編集機能に対して制限を実施し、違法地域では露出度の高い画像の生成を禁止したと発表しました。しかし、メディアが2月に行った確認では、この機能のバグは依然として存在しており、ユーザーは特定の指示を入力するだけで簡単に防御を回避できました。

アサート氏がこのプラットフォームを公に批判した後、ネット上には彼女がビキニを着た偽造写真が出現し、さらに深刻な偽造された被害動画も現れました。以前には、米国バルティモア市も同様の理由でxAIを訴え、地元の消費者保護規則違反を指控していました。

初めての製品設計に関する訴訟、セキュリティへの警鐘

この事件を代理するAWO法律事務所の法務責任者は、この訴訟は人工知能製品の本質的な設計を問う世界的な最初の法的事件の一つであると述べました。彼らはこの事件を通じて業界に明確なメッセージを送りたいと考えています。つまり、人工知能開発企業はセキュリティを事後の補救手段としてのみ扱うことはできないということです。

注目すべきは、xAIがスペースXの子会社であり、現在上場準備を進めていることです。これは世界で最も大きな初公開募股（IPO）記録を樹立することになるでしょう。このような重要な時期に、AI倫理とデータプライバシーに関するこの法律上の嵐は、生成型AI業界にとって警鐘となるものです。