5 月 8 日,由中國移動研發的國內首個超大規模AI模型服務平臺正式宣告上線。作爲目前國內匯聚模型數量最多的集成化平臺,該系統已成功接入超過 300 款國內主流AI大模型,標誌着我國在人工智能基礎設施建設與服務能力上邁出了重要一步。
首創詞元集約化模式,實現智能匹配
該平臺在運營邏輯上實現了重要突破,首創了“詞元(Token)集約化”運營模式。在實際操作中,平臺展現出了極高的智能化水平,能夠精準解析用戶的不同任務需求,並自動在庫中尋找最匹配的算法模型。
爲了滿足多樣化的應用場景,平臺提供了三種靈活的篩選模式:
成本優先模式:通過優化路徑,以最低的消耗完成基礎任務。
效果優先模式:調動性能最強的模型,確保產出質量。
均衡優先模式:在效率與投入之間尋找最佳平衡點。
這種動態篩選方案不僅提升了執行效率,更讓資源分配變得更加科學。
運維保障與效率飛躍
在穩定性方面,平臺建立了嚴密的保障機制。一旦某個特定模型出現響應超時、流量受限或意外故障,系統可在秒級時間內自動切換至備用方案。這種無感知的“秒級切換”能力,有效解決了開發者最爲擔心的業務中斷問題,確保了企業級應用的連續性。
降本增效成果顯著
數據監測顯示,該平臺在提升資源利用率方面效果顯著。目前,單位詞元(Token)的調用成本已降低約30%,資源佔用率則大幅減少了50%以上。憑藉極具競爭力的性能表現,該平臺目前的日均調用量已突破千億級別,成爲支撐國內AI產業快速發展的核心數字底座。
