最近、マスクが所有するxAI社は、AIチャットボットのGrokに新機能をリリースしたことを発表しました。ユーザーは今や6秒間の動画スライドを生成でき、一部の露骨な内容も含まれます。この機能は「Imagine」と呼ばれ、ユーザーの指示に応じて音声付きの動画を作成します。xAIの従業員であるMati Royがソーシャルメディアで投稿した情報によると、Grokが更新して生成した動画の例にはロボットや宇宙人の部族の女性などが含まれています。

image.png

「Imagine」機能の正式リリース日は10月です。一部の従業員やサブスクリバーはすでにこの機能を事前に体験しているようですが、マスクはプログラマーが最終的な調整を行っていると述べています。今回のアップデートはGrok4の一部であり、会社では「世界で最も知能の高い人工知能」と称しています。

しかし、Grokの最近のリリースは多くの議論を巻き起こしており、その中には性別化されたAI「パートナー」のリリースも含まれます。新しい機能は深層偽造（deepfake）に関する懸念も引き起こし、この技術は通常、承諾なしに動画中の人物をデジタル的に変更することがあります。米国性虐待センターの上級副社長Haley McNamaraは、「xAIは私たちが『NSFW』AIチャットボットの削除を求める声に応えていないようで、むしろ性的搾取を推進しているように見える」と述べました。

人々は深層偽造に対してより強い懸念を抱いています。ピュー・リサーチ・センターが2019年に実施した調査では、アメリカ成人の約3分の4がデジタル処理された動画や画像の使用を制限することを支持していました。そして2023年1月の調査では、84%のアメリカ人が非自発的な深層偽造のポルノコンテンツを禁止する法律を支持していることがわかりました。

Royは最近の投稿で、Grokの動画生成サービスが現実的な人間の動画や静止画のアニメーションを作成できることを指摘しました。人々はこの新しいサービスが個人向けの性的画像の生成に使われる可能性があることに気づきました。以前から、複数のユーザーがGrokが彼らの肖像に似た性別化された画像を生成できる点に懸念を表明していました。

性別化されたコンテンツの議論とは別に、Grokは反ユダヤ主義的な発言をしたことで注目を浴び、一時的にサービスが停止されました。最近のアップデートでは、新たなxAI「パートナー」もリリースされ、その中には「Ani」という性別化されたアニメキャラクターが含まれています。ユーザーが彼女とやり取りすると、彼女は下着姿で自分を見せ、多くのユーザーから不満が出ました。

要点:  

🌟 マスクのxAIがGrokの新機能「Imagine」をリリースし、ユーザーは6秒間の動画を生成可能で、露骨な内容も含まれます。  

⚠️ 新機能により深層偽造に対する懸念が高まり、多くの人がデジタル処理された動画の使用を制限することを支持しています。  

👥 Grokのアップデートは多様な問題を引き起こし、反ユダヤ主義的な発言や性別化されたキャラクターの登場が含まれます。