最近、Hugging Faceチームは、SmolVLM-256MとSmolVLM-500Mという2つの新しいAIモデルを発表しました。彼らは、これらが現在までに最もコンパクトなAIモデルであり、画像、短編動画、テキストデータを同時に処理でき、特に1GB未満のメモリしか搭載していないノートパソコンなどのデバイスに最適であると自信を持って述べています。この革新により、開発者は大量のデータを処理する際に、より低コストで高い効率を実現できます。

これらのモデルのパラメータ数はそれぞれ2億5600万と5億で、問題解決能力の向上も期待できます。パラメータ数が多いほど、モデルのパフォーマンスは一般的に向上します。SmolVLMシリーズは、画像や動画クリップの説明、PDF文書とその内容に関する質問への回答（スキャンされたテキストや図表を含む）などを行うことができます。そのため、教育、研究など幅広い分野での応用が期待されています。

image.png

モデルのトレーニングには、「The Cauldron」と呼ばれる50個の高品質な画像とテキストのデータセットと、Docmatixと呼ばれるファイルのスキャンと詳細な説明を組み合わせたデータセットが使用されました。これらのデータセットはどちらもHugging FaceのM4チームによって開発され、マルチモーダルAI技術の開発に重点を置いています。注目すべきは、SmolVLM-256MとSmolVLM-500Mは、Idefics80Bなどの多くのより大きなモデルよりも様々なベンチマークテストで優れたパフォーマンスを示しており、特にAI2Dテストでは、小学生の科学図表の分析能力において顕著な成果を上げています。

しかし、小型モデルはコストパフォーマンスに優れ多才ですが、複雑な推論タスクにおけるパフォーマンスは大型モデルに劣る可能性があります。Google DeepMind、Microsoft Research、そしてモントリオール学習アルゴリズム研究所（Mila）による研究によると、多くの小型モデルはこれらの複雑なタスクで期待外れの結果を示しています。研究者たちは、これは小型モデルがデータの表面的な特徴を認識する傾向があり、新しい状況でその知識を適用することが苦手であるためだと推測しています。

Hugging FaceのSmolVLMシリーズモデルは、コンパクトなAIツールであるだけでなく、様々なタスクを処理する際にも注目すべき能力を発揮します。低コストで効率的なデータ処理を実現したい開発者にとって、これは間違いなく良い選択肢となるでしょう。