ジーミナAPIには、暗黙のキャッシュ機能が導入され、開発者に大幅なコスト削減体験を提供しています。この新しい機能では、開発者が手動でキャッシュを作成する必要はなく、以前のリクエストと共有される接頭辞がある場合、システムが自動的にキャッシュヒットをトリガーし、トークンに最大75%の割引を適用します。このアップデートにより、ジーミナ2.5プロフェッショナル版と2.5フラッシュモデルがカバーされ、AI開発の経済効率をさらに向上させます。詳細については、公式リンクをご覧ください: https://developers.googleblog.com

核心メカニズム: 自動キャッシュと動的割引

暗黙のキャッシュ機能は、リクエスト内の共通の接頭辞を識別し、以前に処理されたコンテキストデータを再利用して、不要なトークン消費を削減します。例えば、チャットボットやコード解析ツールを開発している開発者は、しばしば同じシステム指示や大規模なデータセットを繰り返し送信する必要があります。暗黙のキャッシュは、これらのコンテンツを自動的に保存し、低コストで呼び出すことができます。AIbaseによると、Googleは固定内容をリクエストの先頭に配置し、動的な内容（ユーザーの質問など）を末尾に配置することをお勧めしており、これによりキャッシュヒット率が向上します。ソーシャルメディアのフィードバックでは、この機能の自動化設計とコスト削減効果に対して開発者が高く評価していることが示されています。

222.jpg

技術的詳細と開発者のメリット

公式データによれば、暗黙のキャッシュの最小トークン要件は大幅に減少しました。ジーミナ2.5フラッシュは1024トークン、2.5プロフェッショナルは2048トークンが必要であり、これは約750から1500語の文章に相当し、キャッシュをトリガーする可能性を大幅に高めています。開発者は追加の設定なしに割引を享受でき、APIによって返されるusage_metadataにはキャッシュされたトークン数（cached_content_token_count）が明確に表示され、請求の透明性を保証します。さらに、Googleはコスト削減が必須となるシナリオのために明示的なキャッシュAPIを保持しています。AIbase編集チームは、暗黙のキャッシュの導入により、小規模から中規模の開発チームにとってAI開発の機会の障壁が低くなると考えています。

適用例と業界への影響

暗黙のキャッシュ機能は、高頻度で反復されるコンテキストシナリオに特に適しており、以下のような例があります：

カスタムチャットボット: 長いプロンプトを繰り返し送る必要がなくなり、運用コストが削減されます;

コードライブラリの分析: 大規模なコードライブラリに対する反復的なリクエストを効率的に処理;

文書処理: 長い文書に関する質問応答や要約タスクを加速;

AIbaseは、ジーミナAPIのこのアップデートが、AI開発コストに関する競争が激化しているタイミングで行われたことを指摘し、オープンAIやアンセラティックなどの競合他社もAPI価格の最適化に取り組んでいると述べています。Googleは暗黙のキャッシュを通じてジーミナのコスト効率と開発者フレンドリーさを強化しています。ソーシャルメディアの議論では、この機能がより多くの開発者をジーミナの生産環境への統合に駆り立て、特に予算に敏感なプロジェクトにおいてその影響力が高まると見られています。

AI開発コストの革命

ジーミナの暗黙のキャッシュ機能のリリースは、AI開発がより効率的で経済的になるという兆候です。AIbase編集チームは、Googleがキャッシュメカニズムを引き続き最適化する（遅延を短縮したり、キャッシュシナリオを拡張したりするなど）ことで、ジーミナAPIがチャットボット、RAGシステム、マルチモーダルアプリケーションで広く採用されるようになると予測しています。将来、暗黙のキャッシュは他の機能（コード実行やマルチモーダル処理など）と組み合わせることで、開発者の生産性をさらに向上させるかもしれません。