AI技術が企業で広く利用される中、高額なトークン料金により多くのユーザーが頭を抱えています。企業が「使えば使うほど高くなる」という状況を打破するため、AIサービス提供者であるWriterは木曜日に新進のエースモデルであるPalmyra X6を正式にリリースし、下部のスマートエージェント実行プログラム(harness)にも大幅なアップグレードを施しました。

Palmyra X6は、Z.aiのオープンソースモデルGLM-5.2の後訓練バリアントに基づいて構築されています。新たな実行フレームワークの最適化により、このシステムは基本的なタスクにおいて顧客コストを最大で50%削減することができます。企業の最高経営責任者(CEO)のMay Habib氏は、「現在の業界状況は多くのCIOをうんざりさせています。企業が必要としているのは、単に次のスコアの限界を追いかけることではなく、本当に制御可能なコストです」と語っています。

新モデルのリリースに加えて、実行プログラムのアーキテクチャの最適化も今回のアップグレードの主な特徴となっています。同社が最近発表した調査によると、単に異なる大規模モデルを選ぶよりも、実行効率を微調整することがコスト削減のより信頼性の高い方法であることが分かっています。テスト結果では関連コストが平均して40%低下しています。実行フレームワークは下部コンポーネントであり、組織内のすべてのモデルの実行効率を倍増させることが可能です。

現在、Palmyra X6は企業向けに全面的に公開されています。ユーザーは既存のツールと組み合わせて使用することも、クラウドプラットフォームを通じて呼び出すこともできます。業界関係者は、この動きが現在の市場環境の変化を反映していると見ています。AI導入コストが急騰する中、どのようにして技術手段で支出を抑えるかが、各企業にとって現在の最重要課題となっています。