亞馬遜雲科技宣佈在Amazon Bedrock上提供Llama3.1模型，這是Meta開發的先進、強大的AI模型系列。Llama3.1模型包含8B、70B和405B三種參數量的模型，它們在廣泛的行業基準測試中展現了最先進的性能，併爲生成式AI應用程序提供新功能。

亞馬遜

所有Llama3.1模型支持128K的上下文長度，容量是Llama3模型的16倍，針對八種語言（包括英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語）的多語種對話用例，提高了推理能力。具體模型包括:

  • Llama3.1405B:這是目前公開可用的最大的大型語言模型，適合企業級應用和研發，尤其擅長通用知識、長篇文本生成、多語種翻譯、機器翻譯、編碼、數學、工具使用、增強的上下文理解和高級推理和決策。

  • Llama3.170B:適合內容創作、對話式AI、語言理解、研發和企業應用，擅長文本摘要和準確性、文本分類、情感分析和細微推理、語言建模、對話系統、代碼生成和遵循指令。

  • Llama3.18B:適合計算能力和資源有限的情況，擅長低延遲推理需求下的文本摘要、文本分類、情感分析和語言翻譯。

Meta在超過150個涵蓋廣泛語言的基準數據集上測試了Llama3.1的性能，並進行了大量的人工評估。Llama3.1在每個主要基準測試類別中都優於Llama3。

Amazon Bedrock結合Llama3.1的負責任AI功能，提供數據治理和模型評估功能，幫助用戶自信地構建安全可靠的生成式AI應用程序。

Amazon Bedrock Guardrails允許用戶創建定製的保護措施，促進安全交互，並持續監控和分析用戶輸入和模型響應。

Amazon Bedrock上的模型評估功能則讓用戶可以通過自動評估或人工評估，選擇最佳Llama模型。