OpenAIのエンジニアであるThibault Sottiaux（Tibo）はその日のうちに、CodexとWork環境においてGPT-6.1 Solのデフォルトのコンテキスト長を元々の272kトークンから500kに引き上げたことを発表しました。これは約80％の増加です。

この変更により、モデルが一度の会話で処理できる文章量はほぼ倍になります。コードベース全体を読み込むことや、長いレポートを読み通すこと、あるいは複数のラウンドにわたって詳細な複雑なタスクを維持する場合でも、自動的に圧縮されることが少なくなり、会話が突然途中で切られたり強制的に要約されたりすることがありません。例えば、何百ページにも及ぶ契約書の中で条項の出所を追跡したり、AIに継続的に新しい要望が追加される開発プロジェクトを担当させたりする際には、より長いウィンドウがより少ない「忘れ」や繰り返しの説明をもたらします。長期間の記憶に依存しているユーザーにとっては、体験の改善が非常に直接的であり、大規模モデルの「ウィンドウサイズ」を巡る業界での競争にも呼応しています。

手動で1Mまで可能、今回は長文料金はかかりません

Tiboは説明しました。「500k」は多くのユーザーにとっての体験とパフォーマンスの「最適な領域」として、チームが何度もテストした結果のものです。しかし、これがあまりではありません。ユーザーはまだ手動で調整できます。GPT-6.1 Solがサポートする最大上限はすでに1Mとなっています。

さらに重要なのは料金側の変化です。今回の調整に合わせて、OpenAIはサブスクリプションに基づく使用量の減算時に長文のコンテキスト料金を別途徴収しなくなりました。以前はこのような長時間のウィンドウが高価なオプションと見なされていましたが、今ではデフォルトで拡張され、追加料金もかからないため、重度利用の障壁が間接的に低下することになります。長文のコンテキストが各社の必須機能となった現在、拡張の恩恵を直接ユーザーに還元することは、OpenAIが打つ実直な競争戦略とも言えます。