アマゾンウェブサービス（AWS）は、Metaが開発した高度で強力なAIモデルシリーズであるLlama 3.1モデルをAmazon Bedrockで提供開始すると発表しました。Llama 3.1モデルは、パラメータ数が8B、70B、405Bの3種類あり、幅広い業界のベンチマークテストで最先端の性能を示し、生成AIアプリケーションに新たな機能をもたらします。

アマゾン

すべてのLlama 3.1モデルは128Kのコンテキスト長をサポートしており、Llama 3モデルの16倍の容量です。英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語を含む8つの言語に対応した多言語対応の対話ユースケースにおいて、推論能力が向上しています。具体的なモデルは以下の通りです。

  • Llama 3.1 405B：現在公開されている中で最大規模の大規模言語モデルであり、エンタープライズアプリケーションや研究開発に最適です。特に、一般的な知識、長文テキスト生成、多言語翻訳、機械翻訳、コーディング、数学、ツールの使用、高度なコンテキスト理解、高度な推論と意思決定に優れています。

  • Llama 3.1 70B：コンテンツ作成、対話型AI、言語理解、研究開発、エンタープライズアプリケーションに適しており、テキスト要約と正確性、テキスト分類、感情分析と微妙な推論、言語モデリング、対話システム、コード生成、指示に従うことに優れています。

  • Llama 3.1 8B：計算能力とリソースが限られている状況に適しており、低遅延推論が必要なテキスト要約、テキスト分類、感情分析、言語翻訳に優れています。

Metaは、幅広い言語を網羅する150以上のベンチマークデータセットでLlama 3.1の性能をテストし、広範な人的評価を実施しました。Llama 3.1は、主要なベンチマークテストカテゴリのすべてでLlama 3を上回っています。

Amazon BedrockはLlama 3.1の責任あるAI機能と組み合わさり、データガバナンスとモデル評価機能を提供することで、ユーザーが安全で信頼性の高い生成AIアプリケーションを自信を持って構築できるよう支援します。

Amazon Bedrock Guardrailsを使用すると、ユーザーはカスタマイズされた保護策を作成し、安全なインタラクションを促進し、ユーザー入力とモデルの応答を継続的に監視および分析できます。

Amazon Bedrockのモデル評価機能により、ユーザーは自動評価または人的評価を通じて、最適なLlamaモデルを選択できます。