5 月 8 日,由中國移動研發的國內首個超大規模AI模型服務平臺正式宣告上線。作爲目前國內匯聚模型數量最多的集成化平臺,該系統已成功接入超過 300 款國內主流AI大模型,標誌着我國在人工智能基礎設施建設與服務能力上邁出了重要一步。

首創詞元集約化模式,實現智能匹配

該平臺在運營邏輯上實現了重要突破,首創了“詞元(Token)集約化”運營模式。在實際操作中,平臺展現出了極高的智能化水平,能夠精準解析用戶的不同任務需求,並自動在庫中尋找最匹配的算法模型。

爲了滿足多樣化的應用場景,平臺提供了三種靈活的篩選模式:

  • 成本優先模式:通過優化路徑,以最低的消耗完成基礎任務。

  • 效果優先模式:調動性能最強的模型,確保產出質量。

  • 均衡優先模式:在效率與投入之間尋找最佳平衡點。

這種動態篩選方案不僅提升了執行效率,更讓資源分配變得更加科學。

運維保障與效率飛躍

在穩定性方面,平臺建立了嚴密的保障機制。一旦某個特定模型出現響應超時、流量受限或意外故障,系統可在秒級時間內自動切換至備用方案。這種無感知的“秒級切換”能力,有效解決了開發者最爲擔心的業務中斷問題,確保了企業級應用的連續性。

降本增效成果顯著

數據監測顯示,該平臺在提升資源利用率方面效果顯著。目前,單位詞元(Token)的調用成本已降低約30%,資源佔用率則大幅減少了50%以上。憑藉極具競爭力的性能表現,該平臺目前的日均調用量已突破千億級別,成爲支撐國內AI產業快速發展的核心數字底座。