Cloudflare近日宣佈,作爲Meta公司的首批合作伙伴之一,他們已在Workers AI平臺上線了Meta最新發布的Llama3.18B模型。這一舉措使得開發者能夠在模型發佈的第一天就開始使用這一先進的AI工具。
Llama3.1是Meta公司Llama系列模型的最新成員,以其在通用知識、可操控性、數學運算、工具使用和多語言翻譯等方面的出色表現而聞名。此次更新的亮點包括:更高的精度:模型採用了bfloat16格式,提升了計算精度。
- 函數調用功能:內置了函數調用(也稱爲工具調用)能力,允許模型生成結構化的JSON輸出,可直接用於各種API。
- 多語言支持:新模型支持8種語言,包括英語、法語、德語、印地語、意大利語、葡萄牙語、西班牙語和泰語,大大擴展了應用範圍。
Cloudflare強調,他們致力於支持開源社區,並將這一理念延伸到了Workers AI產品中。公司表示,他們的目標是爲開發者提供一流的開發體驗和工具包,以幫助人們使用開源模型構建應用程序。
值得注意的是,在beta測試期間,開發者可以免費使用Llama3.18B模型。Cloudflare還推出了嵌入式函數調用功能,這使得開發者可以更高效地運行推理任務,減少手動請求的次數。
Cloudflare的這一舉措不僅展示了他們對開源AI發展的支持,也爲全球開發者提供了更多機會來探索和應用最新的AI技術。隨着AI模型不斷進化,我們可以期待看到更多創新應用的出現。