先日、OpenAIの研究者らが画期的な研究成果を発表しました。それは、全く新しい連続時間一貫性モデル（sCM）です。このモデルは、画像、動画、音声などのマルチメディアコンテンツ生成速度を飛躍的に向上させ、従来の拡散モデルと比べてなんと50倍も高速化を実現しました。具体的には、sCMは0.1秒未満で画像を生成できる一方、従来の拡散モデルは5秒以上かかるのが一般的でした。

image.png

研究チームはこの技術を用いて、わずか2回のサンプリングステップで高品質なサンプルを生成することに成功しました。この革新的な手法により、生成プロセスはより効率的になり、サンプルの品質を犠牲にすることはありません。論文はOpenAIのLu Cheng氏とYang Song氏の2人の研究者によって執筆され、arXiv.orgに掲載されています。査読はまだですが、その潜在的な影響は無視できません。

image.png

Yang Song氏は2023年の論文で初めて「一貫性モデル」の概念を提唱しており、これがsCMの発展の基礎となりました。拡散モデルはリアルな画像、3Dモデル、音声、動画の生成において優れた性能を示しますが、サンプリング効率が低く、通常数十から数百ステップが必要となるため、リアルタイムアプリケーションでは課題がありました。

サンプリング速度の高速化

sCMモデル最大の特長は、計算負荷を増やすことなく、サンプリング速度を大幅に向上させた点です。OpenAIの最大のsCMモデルは15億個のパラメータを持ち、A100 GPU上でサンプル生成にかかる時間はわずか0.11秒です。拡散モデルと比較して、実時間（ウォールクロック時間）が50倍高速化され、リアルタイム生成AIアプリケーションの実現可能性が高まりました。

image.png

計算資源の削減

サンプルの品質に関して、sCMはImageNet 512×512データセットでトレーニングされ、Fréchet Inception Distance（FID）スコアは1.88を達成しました。これは、最先端の拡散モデルとほぼ同等です。他の高度な生成モデルとの広範なベンチマークテストを通じて、研究チームはsCMが最先端の結果を提供しながら、計算コストを大幅に削減することを実証しました。

image.png

将来、sCMモデルの高速サンプリングと拡張性は、様々な分野におけるリアルタイム生成AIアプリケーションに新たな可能性を開きます。画像生成から音声・動画合成まで、sCMは迅速で高品質な出力が必要とされる場面に実用的なソリューションを提供します。同時に、OpenAIの研究はシステムの更なる最適化の可能性を示唆しており、様々な産業のニーズに合わせてモデルの性能を向上させることが期待されます。

公式ブログ:https://openai.com/index/simplifying-stabilizing-and-scaling-continuous-time-consistency-models/

論文:https://arxiv.org/html/2410.11081v1

要点：

📈 新しいsCMモデルは速度が50倍向上し、画像生成時間は0.1秒に短縮されました。

🖼️ わずか2ステップのサンプリングで、sCMは高品質なサンプルを生成し、効率が大幅に向上しました。

⚙️ リアルタイムの画像、音声、動画生成など、幅広い将来的な応用が期待されます。