百度が文心大モデル4.5シリーズを正式にオープンソース化し、新モデル10種類を発表！

百度は文心大モデル4.5シリーズを正式にリリースし、完全にオープンソース化しました。ユーザーは文心一言（https://yiyan.baidu.com）でこの最新のオープンソース技術をすぐに体験できます。

このシリーズモデルはさまざまなパラメータ設定をカバーしており、アクティベーションパラメータが47Bと3Bの混合エキスパート（MoE）モデル、および0.3Bパラメータの密なモデルを含み、合計で10種類のモデルがあります。

訓練および推論において、文心4.5シリーズモデルはPaddlePaddleの深層学習フレームワークを使用し、モデルFLOPs利用率が47%に達しています。実験結果によると、このシリーズモデルは多数のテキストおよびマルチモーダルベンチマークテストで優れた性能を発揮しており、特に指示に従う能力、世界の知識の記憶、視覚的理解、マルチモーダル推論などのタスクでSOTA（state-of-the-art）の成績を収めています。

文心4.5シリーズモデルの重みはApache 2.0ライセンスに基づいてオープンソース化されており、学術研究および産業応用が可能です。さらに、PaddlePaddleは複数のハードウェアに互換性のあるオープンソースの産業レベルの開発キットも提供しており、後工程のトレーニングやデプロイの障壁を低下させています。

開発者にとって使いやすいように、文心4.5シリーズにはワンストップの使用ガイドが用意されています。これはモデルのファインチューニングや対話の仕方を迅速に習得するためのものです。開発者はERNIEKitやFastDeployなどのツールを通じて、モデルのトレーニングとデプロイを簡単に実行できます。FastDeployは複数のハードウェアプラットフォームをサポートしており、高性能で低コストの推論デプロイ体験を提供します。

今回のオープンソースには、モデルの事前学習重みと推論コードだけでなく、さまざまなプラットフォームでのダウンロードとデプロイサービスも含まれています。ユーザーはPaddlePaddle星河コミュニティやHuggingFaceなどの有名なプラットフォームでこれらのモデルを見つけて利用できます。注目すべきは、百度がオープンモデルのAPIサービスを導入したことで、ユーザーは百度スマートクラウドの千帆大モデルプラットフォームで呼び出して利用できるようになったことです。これは、研究者や開発者が最新のAI技術に簡単にアクセスできるようになることを意味しています。

文心4.5シリーズモデルのオープンソースには、事前学習重みと推論コードが含まれており、すべてのプロジェクトは以下にアップロードされています:

 Hugging Face（https://huggingface.co/baidu）、

GitHub（https://github.com/PaddlePaddle/ERNIE）

飛 paddle 星河コミュニティ（https://aistudio.baidu.com/overview）。

技術的な詳細をより深く知りたい場合は、技術報告書（https://yiyan.baidu.com/blog/publication）をダウンロードして参照してください。

ポイント:  

🌟 文心4.5シリーズモデルは6月30日に正式にオープンソース化され、10種類のバージョンが提供されます。

📈 モデルは革新的なマルチモーダル異質構造を採用し、マルチモーダル理解能力を向上させます。

🛠️ 開発者はERNIEKitとFastDeployなどのツールを通じて、モデルのトレーニングとデプロイを迅速に行えます。