4月25日,字節跳動旗下的火山引擎宣佈,其最新發佈的豆包1.5·深度思考模型已全面上線邊緣大模型網關,併爲用戶提供高達500萬tokens的免費使用額度,這一舉措在AI領域引起了廣泛關注。

豆包1.5·深度思考模型是火山引擎推出的高性能AI模型,它在數學、代碼和科學等專業領域的推理任務中表現卓越,已達到或接近全球頂尖水平。該模型不僅在推理任務中表現出色,在創意寫作等非推理任務中也展現出強大的泛化能力,能夠應對更廣泛和複雜的使用場景。此次發佈的豆包1.5包含兩個版本:一個是推理能力更強的大語言模型Doubao-1.5-thinking-pro,另一個是支持視覺推理的多模態版本。

火山引擎邊緣大模型網關爲豆包1.5·深度思考模型提供了強大的支持。用戶現在可以在邊緣大模型網關上使用豆包全系列模型,並享受200萬tokens的免費額度。此外,如果用戶在網關訪問密鑰中使用了新增的豆包大模型,還可以申請將免費額度提升至500萬tokens。

微信截圖_20250425140519.png

邊緣大模型網關通過一個API接口,使用戶能夠訪問多家大模型提供商的模型與智能體。它利用遍佈全球的邊緣計算節點,實現就近調用,從而提高模型訪問速度,爲終端用戶提供更快速、可靠的AI服務體驗。用戶可以通過兩種方式調用豆包1.5·深度思考模型:一是直接使用邊緣大模型網關預置的模型;二是將第三方模型平臺的密鑰納管至邊緣大模型網關,通過網關訪問密鑰進行模型調用。

豆包1.5·深度思考模型採用了MoE架構,總參數達到200B,激活參數僅爲20B,這使得它在訓練和推理成本上具有顯著優勢。該模型基於高效算法,能夠提供極高的併發承載能力,同時實現20毫秒的極低延遲。此外,深度思考和視覺理解的複合能力,讓豆包1.5·深度思考模型在解決問題時更加高效。

通過邊緣大模型網關調用豆包1.5·深度思考模型,用戶可以享受加速調用、控制成本、自動重試和故障轉移等優勢。這些功能不僅提升了服務質量,還降低了運維成本,確保了服務的連續性和可靠性。

目前,火山引擎邊緣大模型網關已適配100多種主流大模型及智能體。爲了推廣豆包1.5·深度思考模型,邊緣大模型網關推出了特惠活動。用戶在網關創建訪問密鑰並關聯最新的豆包模型後,即可申請將免費額度提升至500萬tokens。

火山引擎的這一舉措不僅爲AI開發者提供了強大的工具,也爲AI技術的普及和應用提供了有力支持。通過邊緣大模型網關,用戶可以更便捷地使用豆包1.5·深度思考模型,推動AI技術在更多領域的應用和發展。