OpenAI、GPT-4oベースの新しいマルチモーダルコンテンツモデレーションモデルをリリース：テキストと画像の検出が可能に

デジタル時代において、コンテンツの安全性はますます重要になっています。9月26日、OpenAIは最新のマルチモーダルコンテンツ審査モデル「omni-moderation-latest」を正式にリリースしました。

このモデルは最新のGPT-4o技術に基づいており、有害なテキストや画像を正確に識別・検出できます。このアップデートにより、開発者はより強力な審査システムを構築するための強力なツールを手に入れることができます。

新モデルの注目すべき点は、テキストと画像の両方の入力に対応した審査が可能で、特に英語以外の言語コンテンツの処理において優れた性能を発揮する点です。

以前の審査モデルと比較して、「omni-moderation-latest」は識別の精度が向上しただけでなく、より多くの有害コンテンツを検出できるようになりました。暴力、自傷行為、性的コンテンツなど、複数のカテゴリを評価し、ユーザーがより安全な環境でコミュニケーションできるようにします。

OpenAIは2022年にコンテンツ審査API（Moderation API）をリリースして以来、特に多くのAIアプリケーションが大規模生産段階に入るにつれて、自動化された審査システムが処理するコンテンツの量と種類は増加の一途を辿っています。現在、GrammarlyやElevenLabsなどの多くの企業が、このAPIを使用してユーザーの安全を保護し、不適切なコンテンツの生成を防いでいます。

新モデルのメリットは多岐に渡ります。

まず、マルチモーダルな有害コンテンツ分類が可能で、画像とテキストの組み合わせを評価し、暴力、自傷行為、性的リスクを識別します。

次に、違法行為および暴力関連コンテンツという2つの新しいテキスト審査カテゴリが追加され、審査能力がさらに強化されました。

さらに、英語以外の言語コンテンツの検出精度が大幅に向上しました。テストによると、40言語での精度は42％向上し、特にリソースが少ない言語で顕著な改善が見られました。

開発者にとって、この新しい審査モデルは引き続き無料のコンテンツ審査APIとして、簡単に統合できます。OpenAIは、このアップグレードにより、より多くの開発者が最新の研究成果と安全システムを活用し、ユーザーにとってより快適なオンライン体験を創造することを期待しています。

公式ブログ:https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/

ハイライト:

📊 新モデル「omni-moderation-latest」はGPT-4o技術に基づき、テキストと画像のマルチモーダル審査に対応しています。

🌍 40言語の検出精度は42％向上し、特にリソースが少ない言語で優れた性能を発揮します。

🔒 2つの新しいテキスト審査カテゴリが追加され、違法行為および暴力関連コンテンツの識別能力が強化されました。