最近、OpenAI は AI 動画生成モデル「Sora」でマーティン・ルーカー・キング・ジュニア（Martin Luther King Jr.）の肖像を生成することを一時停止したことを発表しました。この決定は、マーティン・ルーカー・キング・ジュニア遺産管理委員会からの要請に基づいて行われたもので、ユーザーがSoraで「失礼な」動画を生成したためです。

OpenAI はソーシャルメディアプラットフォーム X 上で声明を発表し、「歴史的人物を描く言論の自由は重要ですが、公人やその家族が自身の肖像の使用を最終的に制御する権利があると考えています」と述べました。また、関連する代理人や遺産所有者は、Sora プラットフォーム上で自分の肖像を使用することを禁止するよう要求することができます。

この制限が導入された背景には、OpenAI が先日新たにリリースした Sora というソーシャルビデオプラットフォームがあります。ユーザーはこのプラットフォームで、歴史的人物、友人、または肖像を提供したユーザーと似たリアルなAI動画を作成できます。しかし、Sora のリリースは、AI 生成動画のセキュリティや技術的な保護措置の実施方法についての激しい議論を引き起こしました。

マーティン・ルーカー・キング・ジュニアの娘であるベネイス・キング（Bernice King）は、先週インスタグラムで人々に彼のAI動画の送信をやめるよう呼びかけました。彼女の声は、ロビン・ウィリアムズの娘の意見と一致しており、彼女もSoraのユーザーに彼のAI動画の生成をやめるよう求めました。ワシントンポストの報道によると、Soraのユーザーはキング博士がサルのような鳴き声を出すことや、マルコムXと格闘するAI動画を生成したとのことです。

マーティン・ルーカー・キング・ジュニアだけでなく、Soraでは他の多くの歴史的人物の不適切な動画も出現しています。アーティストのボブ・ロス、歌手のウィヒットニー・ホスティング、および元大統領のジョン・F・ケネディなどが含まれます。マーティン・ルーカー・キング・ジュニア遺産管理委員会の関係者からはまだコメントはありません。

Soraのリリース以来、OpenAIは他の制限も追加しました。例えば、10月初頭に同社は著作権所有者に対して、自身の肖像に関連するAI動画生成コンテンツを管理するためのより詳細なコントロール権限を提供すると発表しました。それでも、ChatGPTのコンテンツ管理においては、OpenAIはより緩い姿勢を取っているようで、最近では成人ユーザーがChatGPTと「エロチックな」チャットを行うことを許可しました。

Soraをリリースした際、OpenAIは明らかにAI動画生成によって生じるさまざまな懸念に対処しようとしていました。OpenAI CEOのサム・アルトマン（Sam Altman）は、同社がリリース当日Soraに対して「不安を感じていた」と述べました。OpenAIは新技術を市場に投入しながら、この技術をより良い形で配分する方法を探っています。

ポイント：

🌟 OpenAI は、遺産管理委員会の要請により、マーティン・ルーカー・キング・ジュニアの動画生成を一時停止しました。

🤖 Sora プラットフォームでのユーザーによる不適切な動画生成が、一般の懸念を引き起こしました。

🔒 OpenAI は著作権所有者に、より詳細なコンテンツ管理コントロールを提供すると約束しています。