6月30日,百度正式開源了其最新的文心大模型4.5系列,包含了多達10款模型,其中包括47B 和3B 激活參數的混合專家模型(MoE)以及0.3B 參數的稠密型模型。這次開源不僅讓開發者能夠免費使用這些強大的模型,還提供了預訓練權重和推理代碼,方便開發者進行各種應用。

而在此次發佈中,英特爾也展現了其強大的技術支持。藉助 OpenVINO 工具套件,英特爾在文心大模型的發佈當天就完成了對這些端側模型的適配,併成功在其酷睿 Ultra 平臺上進行了端側部署。OpenVINO 是英特爾自主研發的開源工具,旨在優化和加速深度學習模型的推理性能,實現跨平臺部署,並充分利用英特爾的硬件資源。

百度、文心一言、文心大模型

值得一提的是,自2021年以來,百度的飛槳團隊與英特爾的 OpenVINO 團隊進行了深入合作,雙方針對多個模型進行了適配工作,包括 PaddleOCR、PaddleSeg 和 PaddleDetection 等。這樣的合作使得開發者可以直接利用飛槳模型,通過 OpenVINO 進行推理和部署,甚至可以通過 OpenVINO 的模型優化器將模型轉換爲 IR 格式,進一步提升部署效果。

文心大模型4.5的發佈標誌着百度在多模態理解、文本生成和邏輯推理等領域的又一次重大突破。這一系列模型的性能甚至在多項測試中超越了 GPT4.5,並且 API 調用的成本僅爲後者的1%。這無疑爲希望將 AI 技術應用於各類產品和服務的開發者提供了一個具有吸引力的選擇。

英特爾和百度的這次合作,不僅展示了技術的前沿進展,也爲 AI 的未來應用開闢了更廣闊的道路。隨着更多開發者參與到這些開源模型的使用中,我們可以期待在不久的將來,會有更多令人興奮的創新和應用誕生。