OpenAI 今日宣佈,全新旗艦模型 GPT-4o mini 已同時登陸 Azure AI,支持文本處理能力,並將在後續推出圖像、音頻和視頻功能。

image.png

GPT-4o mini 比 GPT-3.5Turbo 智能得多——在大規模多任務語言理解 (MMLU) 測量中得分爲82%,而 GPT-3.5Turbo 爲70%——而且便宜60% 以上。1該模型提供了擴展的128K 上下文窗口,並集成了 GPT-4o 改進的多語言功能。Azure OpenAI Studio Playground 可免費試用 GPT-4o mini。

微軟 Azure AI 爲 GPT-4o mini 帶來了默認安全性,擴展數據駐留和服務可用性升級。客戶可以期待在 Azure AI 上體驗到更出色的性能和功能,尤其適用於助手、代碼解釋器和檢索等流媒體場景。

在Azure AI 宣佈爲 GPT-4o mini 提供全球隨用隨付且最高吞吐量限制。現在,客戶可以根據所消耗的資源靈活付費,同時流量將在全球範圍內路由以提供更高的吞吐量,同樣可以數據的靜態控制存儲位置。全球隨用隨付部署選項將提供每分鐘1500萬個token (TPM) 的吞吐量,爲 GPT-4o mini 提供99.99% 的可用性,並與 OpenAI 相同的行業速率。

GPT-4o mini 將於本月登陸 Azure AI,並在 Batch 服務中提供。Batch 通過使用非高峯容量,以50% 的折扣率在24小時內交付高吞吐量作業。這隻有在 Microsoft 在 Azure AI 上運行的情況下才有可能,這使微軟 Azure AI 能夠向客戶提供非高峯容量。

微軟 Azure AI 本月還將發佈 GPT-4o mini 的微調功能,讓客戶能夠根據具體用例和場景進一步定製模型。繼上個月更新爲基於token的培訓計費後,微軟 Azure AI 將託管費用降低了43%。再加上其低廉的推理價格,這使得 Azure OpenAI 服務微調部署成爲具有生產工作負載的客戶的最具成本效益的產品。

計劃重點: 

⭐ GPT-4o mini 登陸 Azure AI,支持文本處理功能,速度極快,功能全面 

⭐ 新模型比前代更智能,便宜60% 以上,提供更廣泛的上下文窗口和多語言功能 

⭐ Azure AI爲GPT-4o mini提供全球隨用隨付部署選項,提供高吞吐量和99.99%可用性