紅帽（Red Hat）近期宣佈收購了一家名爲 Chatterbox Labs 的人工智能公司，此次收購是爲了進一步增強其在企業級 AI 領域的佈局。Chatterbox Labs 成立於2011年，專注於 AI 模型測試和生成式 AI 的安全防護。此次收購是繼去年收購 Neural Magic 後，紅帽再次加大在 AI 領域的投資。

Chatterbox Labs 開發了一個名爲 AIMI 的平臺，該平臺能夠量化 AI 風險，並提供多種與模型行爲和風險管理相關的功能。這些工具幫助企業評估和控制 AI 模型在實際應用中可能產生的不當輸出和潛在風險。紅帽表示，隨着越來越多企業將 AI 項目從實驗階段推向生產環境，對模型偏見、有害內容（toxicity）和各種漏洞的持續監測已經成爲必要條件。因此，AI 安全測試及 “護欄” 能力正在成爲現代機器學習操作(MLOps)和大語言模型操作(LLMOps)平臺的基本要求。

紅帽在聲明中指出，此次收購旨在滿足迅速上升的 “AI 安全” 需求。通過整合 Chatterbox Labs 的技術，紅帽希望爲客戶提供一個更完整的企業級開源 AI 平臺，使其能夠在生產環境中更有信心地運行 AI 工作負載。此外，Chatterbox Labs 的技術將與近期發佈的 Red Hat AI3平臺互補，增加更全面的安全測試和風險管理能力。

紅帽重申其開源發展理念，未來計劃逐步將此次收購所獲得的 AI 技術開源，以促進社區的使用和技術創新。紅帽表示，其一貫的做法是收購專有技術後，通過開源推動技術的進步和生態的繁榮。隨着 Chatterbox Labs 技術的分階段開源，這些關鍵的 AI 安全工具將逐步向更廣泛的社區開放，使更多組織能夠受益於偏見控制、安全審查和風險量化的能力。

劃重點:  

🌟 紅帽收購 Chatterbox Labs，進一步加強企業級 AI 安全能力。  

🔧 Chatterbox Labs 的 AIMI 平臺提供 AI 風險量化和模型行爲管理功能。  

📈 紅帽計劃將收購的 AI 技術逐步開源，促進社區創新與使用。