開源されてまだ2週間も経っていない大規模モデルが、ユーザーの「もう2週間だけ」という声によって、無料期間を2週間からほぼ1か月にまで延長しました。7月20日、騰訊(テンセント)の広報部長である張軍(チャン・ジュン)は微博で、混元大モデルHy3の2週間の無料体験キャンペーンが終了間近だった頃に、多くのユーザーから延期を求める強いフィードバックを受けたことを明らかにしました。これにより、WorkBuddyとCodeBuddyのユーザーに対して、Hy3の限定無料キャンペーンを8月5日まで延長することになりました。

image.png

この限定無料キャンペーンの主役であるHy3は、7月6日に新たにオープンソースとして公開された新しい世代のモデルです。その最も特徴的な点は、速い思考と遅い思考を融合させたモデルであることです。直感的な返答を迅速に行うだけでなく、深く掘り下げて推論することができ、両方のペースを同じ構造の中に組み込んでいるのです。技術的基盤としては、Hy3はMoE(混合エキスパート)アーキテクチャを使用しており、全体のパラメータ数は295Bに達し、アクティブなパラメータは21Bです。つまり、毎回の推論ではその中の一部のエキスパートのみを起動し、比較的制限された計算リソースを使って膨大な知識容量を駆使しているのです。また、最大で256Kのコンテキスト長をサポートしており、長文ドキュメントやコードベースを一度に読み込みながら前後の内容を失うことなく処理できます。

騰訊によると、Hy3はプレビュー版に基づき、後訓練データの質と多様性をさらに向上させ、強化学習フェーズの計算リソースを拡大しました。その結果、推論、インテリジェントエージェント、長文コンテキストなどのタスクにおいて顕著な進歩を遂げ、国内外のパラメータ数が2〜5倍もあるハイエンドモデルと同等の性能を実現しています。言い換えれば、アクティブなパラメータが21Bしかないモデルが、トレーニング戦略とアーキテクチャ設計を通じて、数倍の規模を持つ競合との差を目に見えないレベルまで縮めています。ユーザーの声によって無料期間が8月5日まで延長され、この効率とコストパフォーマンスの競争には、もっと多くの人が実際に手を出して検証する時間が与えられました。