TypeSafe AIがJevを発表：テキストを生成しないトランスフォーマーモデル 低コストな意思決定を特徴に

TypeSafe AIは新しいトランスフォーマー型モデル「Jev」をリリースし、大規模言語モデル（LLM）のテキスト生成の枠組みを回避しようと試みています。このモデルは確率出力と「キャリブレーション意思決定」サービスを用いたソフトウェア自動化を提供します。OpenAIの元研究者で、RLHF技術に携わったDiogo Almeida氏は2年前にOpenAIを離れ、TypeSafe AIを設立しました。彼は、人間の言語を中心にモデルを最適化する方法がコンピュータの自動化シナリオには不適切であると考えています。

Jevはテキストを生成せず、確率を出力するため、従来のLLMが抱える幻覚や冗長な生成コストを負いません。出力トークンは無料で、入力は10億トークン単位で課金されます。開発者によるテストでは、VercelがJevをOpenAIモデルに置き換えてコマンドセキュリティ分類を行った結果、速度が5〜18倍向上し、精度も高くなりました。Bryo AIのテストでは、Jevの精度はGeminiよりわずかに低かったものの、コストは10〜20倍低いことがわかりました。