WeChat AIは9月4日に、汎用マルチモーダル埋め込みモデル「WeMM-Embedding」をオープンソース化することを発表しました。このモデルには2B、4B、9Bの3つのバージョンが含まれており、テキスト、画像、動画、視覚ドキュメントおよび任意に組み合わされたマルチモーダル入力をサポートしています。

WeChatの従業員である@客村小蒋氏によると、WeChatのビジュアルチームがオープンソースしたマルチモーダルモデル「WeMM-Embedding」は、要するにシステムがテキスト、画像、動画を同時に理解できるようにし、それらを同じ意味空間内で比較や検索ができるようにするものです。

image.png

すでに友達のレビュー検索やビデオ番組の推薦などの場面で実装されている

彼は明らかにしたところによると、このモデルはすでにWeChat内で大規模に使用されており、友達のレビュー検索、ビデオ番組の推薦、公衆号の推薦、WeChatエコマーケットで利用されており、毎日10億回以上の呼び出しが行われています。国際的な権威あるランキングMMEB-v2では、このモデルは第1位を獲得し、これまでに提出されたすべてのオープンソースと非オープンソースモデルを上回っています。

現在、「WeMM-Embedding」に関連するリソースはすでに公開されています。論文はarXivに掲載され、コードのリポジトリはGitHubのTencent/WeMM-Embeddingプロジェクトにホスティングされており、モデルコレクションもHugging Faceにアップロードされています。