業界分析機関SemiAnalysisは、最新のOpenAIとAnthropicのサブスクリプションプランを実測した。その結果、見かけ上安価な固定月額料金の裏には、大規模モデルメーカーが負担する莫大な計算リソース補助金のギャップが隠れていることが判明した。
テスト担当者は、両社のさまざまなサブスクリプションプランを購入し、長期間にわたるプログラミングやエージェントなどの重いタスクを実行し、週間使用上限に達するまで続けた。その後、公開されているAPI価格に基づいて実際に使用された量を理論的な費用に換算したところ、数値は驚くべきものだった。
極限使用で計算リソース補助金を引き上げる
試算結果によると、ユーザーがOpenAIの価格200ドルの「ChatGPT Pro 20x」サブスクリプションを完全に使い切った場合、対応するAPI課金額は最大で約1万4000ドルになる。同様の価格で販売されているAnthropicの「Claude Max 20x」プランでも、極限使用状態では理論的なトークンコストが8000ドル近くに達する。
これは一部の重度利用者がサブスクリプションモデルにおける限られた利益空間を食いつぶし、メーカーが深刻な損失に陥ることを意味している。ChatGPT Plusのような20ドルのエントリーレベルのサブスクリプションにおいても、ユーザー利用率が11.4%を超えると、OpenAIはそのユーザーに対して赤字を出していることになる。
企業向けの細分化が新たなトレンドとなる
このような状況の中、多段階で自主的にツールを呼び出すようなエージェントシステムがコスト圧力の増加を促進しており、トークン消費量は従来の単一ラウンドの会話に比べて千倍にも達する。マイクロソフト、メタ、アマゾンなど大手企業は、これまで社員に大規模なAIの試用を奨励していた做法を縮小しており、内部の急激な請求書の増加を抑えるためである。
高い計算リソース費用に対応するために、多くの企業が複雑な問題を最上位モデルに、通常のオフィス作業を安いまたはオープンソースモデルに下ろすという細かい分類戦略を採用している。このタスクルーティング方式により、全体のAIコストを最大95%削減できる。同時に、大規模モデルサービス提供者は、ユーザーエクスペリエンスと高額なインフラ投資の間で苦しいバランスを取らざるを得なくなる。
