OpenAIはこのほど、注目を集めていたGPT-5.6Sol「超高速モード」を正式にリリースしました。このバージョンは7月に一部の特定の顧客に対して内部プレビューが行われていましたが、今やこのモードの出力速度は最大で1秒間に750トークンに達し、より小さなモデルや性能の低いモデルに切り替えることなく、全体的な処理速度は標準モードに比べて最大で14倍速くなっています。

image.png

この技術的進歩は主にCerebras社のワーフルレベルエンジンアーキテクチャにより実現されました。このアーキテクチャには44GBのオンチップ静的ランダムアクセスメモリが内蔵されており、従来のGPUシステムでよく見られるデータ転送のボトルネックを突破しました。関連するテストデータによると、その動作速度は同業他社の製品を大幅に上回り、「人間の最終試験」として知られる試験では、全部で2500問の問題を約11時間で処理し、非常に高い計算効率を示しています。

現在、この新しいモードはイベント対応、金融研究、リアルタイムカスタマーサポート、プログラミングおよび複雑な研究などの高負荷なワークフローに非常に適しています。計算リソースがまだ限られているため、OpenAIは顧客のワークロードとの適合度と計算リソースの利用可能性に基づいて、段階的にアクセス権を評価・付与していく予定です。