法國人工智能初創公司 Mistral AI 近日正式推出了一款全新的內容審覈 API，旨在與 OpenAI 及其他行業領軍者展開競爭，同時應對日益增長的 AI 安全與內容過濾問題。

這項服務基於 Mistral 的 Ministral8B 模型，經過精細調優，能夠在九個不同類別中檢測潛在的有害內容，包括色情內容、仇恨言論、暴力行爲、危險活動以及個人可識別信息等。該 API 同時具備對原始文本和對話內容的分析能力。

Mistral AI 在發佈會上強調，“安全性在使 AI 變得有用方面扮演着關鍵角色。” 他們認爲，系統級的安全防護措施對於保護下游應用至關重要。

此次發佈的內容審覈 API 恰逢 AI 行業面臨越來越大壓力之際，各公司被迫提升技術的安全性。上個月，Mistral 還與其他主要 AI 公司共同簽署了 AI 安全峯會的協議，承諾將負責任地開發 AI 技術。

image.png

新推出的 API 已在 Mistral 的 Le Chat 平臺上投入使用，支持包括阿拉伯語、中文、英語、法語、德語、意大利語、日語、韓語、葡萄牙語、俄語和西班牙語在內的11種語言。這種多語言能力使 Mistral 在某些主要只關注英語內容的競爭對手中脫穎而出。

image.png

Mistral AI 還與微軟 Azure、Qualcomm 和 SAP 等高調企業建立了合作關係，逐步在企業 AI 市場中增強影響力。SAP 最近宣佈將在其基礎設施上託管 Mistral 的模型，包括 Mistral Large2，以提供符合歐洲法規的安全 AI 解決方案。

Mistral 的技術策略顯示了其超越年齡的成熟性。通過訓練其審覈模型理解對話背景，而不僅僅是分析孤立文本，Mistral 開發了一個能夠捕捉更微妙的有害內容的系統，這種內容可能會在更基本的過濾器中被遺漏。

目前，審覈 API 已通過 Mistral 的雲平臺提供，按使用量收費。Mistral 表示，將根據客戶反饋和不斷變化的安全需求持續提升系統的準確性並擴展功能。

自成立以來，Mistral 迅速成長爲推動企業 AI 安全思考的重要力量。在一個由美國科技巨頭主導的領域中，Mistral 以其歐洲視角在隱私和安全方面可能成爲其最大優勢。

API入口:https://docs.mistral.ai/capabilities/guardrailing/

劃重點:

🌍 Mistral AI 推出的多語言內容審覈 API 支持11種語言，針對多種有害內容進行檢測。  

🔗 該 API 已在 Mistral 的 Le Chat 平臺上應用，同時與多個企業建立了合作關係。  

🔒 Mistral 的技術以對話背景爲基礎，增強了對潛在有害內容的檢測能力。