フランスのAIスタートアップ企業Mistral AIは最近、OpenAIや業界のリーダー企業と競争し、増加するAIの安全性とコンテンツフィルタリングの問題に対処することを目的とした、新しいコンテンツ審査APIを正式に発表しました。

このサービスはMistralのMinistral8Bモデルに基づいており、精緻に調整され、わいせつなコンテンツ、ヘイトスピーチ、暴力行為、危険な活動、個人を特定できる情報など、9つの異なるカテゴリで潜在的な有害コンテンツを検出できます。このAPIは、元のテキストと会話の内容の両方を分析する機能も備えています。

Mistral AIは発表会で、「AIを有用なものにする上で、安全性が重要な役割を果たしている」と強調しました。彼らは、システムレベルのセキュリティ対策が、下流のアプリケーションを保護するために不可欠であると考えています。

このコンテンツ審査APIの発表は、AI業界がますます大きな圧力に直面し、各企業が技術の安全性を向上させることを余儀なくされている時期に当たります。先月、Mistralは他の主要なAI企業と共にAI安全サミットの協定に署名し、責任あるAI技術開発を約束しました。

image.png

新しく発表されたAPIは、MistralのLe Chatプラットフォームで既に使用されており、アラビア語、中国語、英語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語など11の言語をサポートしています。この多言語対応により、英語コンテンツのみに焦点を当てている主要な競合他社の中でMistralは際立っています。

image.png

Mistral AIは、Microsoft Azure、Qualcomm、SAPなどの大手企業とも提携し、エンタープライズAI市場における影響力を徐々に高めています。SAPは最近、Mistralのモデル（Mistral Large2を含む）を自社のインフラストラクチャでホスティングし、欧州の規制に準拠した安全なAIソリューションを提供すると発表しました。

Mistralの技術戦略は、その年齢を超えた成熟性を示しています。単に孤立したテキストを分析するだけでなく、審査モデルが会話の文脈を理解するようにトレーニングすることで、より基本的なフィルターでは見逃される可能性のある、より微妙な有害コンテンツを捉えることができるシステムを開発しました。

現在、審査APIはMistralのクラウドプラットフォームを通じて提供されており、使用量に応じて課金されます。Mistralは、顧客からのフィードバックと変化するセキュリティニーズに基づいて、システムの精度を継続的に向上させ、機能を拡張すると述べています。

設立以来、MistralはエンタープライズAIのセキュリティに関する議論を推進する重要な力として急速に成長しました。米国テクノロジー大手企業が主導する分野において、Mistralはヨーロッパの視点から、プライバシーとセキュリティにおいて最大の強みを持つ可能性があります。

API入口:https://docs.mistral.ai/capabilities/guardrailing/

要点:

🌍 Mistral AIが発表した多言語コンテンツ審査APIは11の言語をサポートし、様々な有害コンテンツを検出します。

🔗 このAPIはMistralのLe Chatプラットフォームで既に使用されており、複数の企業と提携しています。

🔒 Mistralの技術は会話の文脈に基づいており、潜在的な有害コンテンツの検出能力が向上しています。