中国の大規模モデルのパラメータ数は、すでに1兆を超えてさらに上昇しています。Qwen3.8 MaxやKimi K3はそれぞれ2.4兆と2.8兆のパラメータを持つことで、次のステップは5兆に進むことになります。今回は、先駆けとなるのはおそらくビデオ(字节)かもしれません。LatePostの報道によると、ビデオは5兆を超えるパラメータを持つ大規模モデルの訓練を検討しており、これは国内で公開されている中で最大の規模になる見込みです。ただし、計画はまだ初期段階であり、最終的にリリースされるかどうかはわかりません。
5兆のパラメータとはどの程度の規模なのでしょうか?それはGPT-5.6やOpus 5に相当します。パラメータ数が多いほど、大規模モデルの性能は通常強くなります。OpenAIとAnthropicは、高いパラメータ数によって先行を維持しています。この2社は内部ですでに10兆のパラメータを持つ大規模モデルの訓練や完成を目指しているとの情報があります。しかし、超高パラメータは高い計算力の投入を意味します。H100を基準に計算すると、5兆のパラメータを持つモデルを訓練するには、10万個のH100が347日かかるか、または100万枚のGPUが35日かかる必要があります。100万枚のGPUはGWレベルの計算能力に達しており、その門檻は非常に高くなっています。ビデオが一度にこれほどの計算力を投入することは不可能であり、より現実的な方法は、20〜30万枚のGPUを使って3〜4ヶ月間訓練し、その後準備や後処理などのプロセスを加えることで、少なくとも半年、あるいは1年後に完成する可能性があります。
計算力の保有状況を見ると、現在最も豊富なのはOpenAIで、SemiAnalysisの推定では約200万枚のGPUを持っています。Anthropicは約62万枚、DeepSeekはわずか6万枚で、その多くは比較して古くなったH20やH800です。ビデオの財力を考えれば、5兆のパラメータを持つモデルを訓練することは問題ありません。こうしたモデルがあれば、ドウバオ(豆包)の能力はGPT-5.6やOpus 5レベルに到達することが確実で、知能が本格的に向上し、ネットユーザーからのからかいを受けることはないでしょう。唯一の不確実性は、商業的収益です。このような膨大な投資が、実際の応用で同等の収益をもたらすことができるかどうかです。
