本文へスキップ
Jev | typesafeAPI & Playground
…

ビジュアルレポート

Jev 速度・コストベンチマーク

チャートの読み方

公開で議論された TypeSafe のレンジとワークフロー見出しに基づくコミュニティ可視化です。jevtypesafe.org による独立ラボ計測ではありません。桁の主張を理解したうえで、 API ガイド経由で自前の fixture で検証してください。

  • レイテンシ帯はリクエスト内ルーティングゲートで最も重要です。
  • 入力価格+無料出力は大量スコアリングで最も重要です。
  • ワークフロー倍率はワークロード依存;上限のマーケティング証拠として扱ってください。

レイテンシチャート

生成系フロンティアモデルはエンドツーエンドで数秒〜数分かかることがあります。Jev の公開 System One 帯は数十〜数百ミリ秒 — 機敏なエージェントゲートとブロックされたリクエストの違いです。

Jev レイテンシ 70〜500 ミリ秒と、典型的なフロンティア LLM の約 3〜329 秒レンジを比較する棒風チャート
チャート 1 — System One 形状のクエリについて議論されたエンドツーエンドレイテンシレンジ。視覚スケールは例示です。

価格チャート

Jev は入力約 $0.042 / MTok で、 出力トークン無料と掲載しています。一般的な LLM 帯は入力が高く、生成文字列にも課金します。ゲートウェイが上乗せする場合があるので — 予算前にライブ料金を確認してください。

Jev 入力価格 百万トークンあたり 0.042 ドルと、予算・フロンティア LLM 帯を比較する横棒チャート
チャート 2 — 入力トークン価格帯。意思決定ワークロードでは、出力無料の価格設定がコスト物語の後半です。

ワークフロー速度・コストの見出し

TypeSafe のワークフロー式評価は、LLM 意思決定パスに対して際立った相対数値を公開しました。下のチャートは、全文 eval を読まないステークホルダー向けにその見出しをスキャン可能にします。

ワークフロー評価で参照 LLM パス 1× に対し Jev が約 194 倍速いことを示す棒グラフ
チャート 3 — 公開ワークフローレイテンシ見出し(~194× 高速)。自前のコンピュートグラフで検証してください。
ワークフロー評価で参照 LLM パス 1× に対し Jev が約 445 倍安いことを示す棒グラフ
チャート 4 — 公開ワークフローコスト見出し(~445× 安価)。出力無料請求は複数質問呼び出しの節約を増幅します。

公開スタイルのテストシナリオ

公開デモと開発者記事のテーマ(ルーティングデスク、バッチ決定、対話ループ、大きな Choice 集合)を再構成したシナリオです。再現可能な fixture のテンプレートであり — 公式ラボノートのコピーではありません。

チケットルーティング、バッチ決定、リアルタイムループ、高カーディナリティ Choice を扱う 4 パネルシナリオマトリクス
チャート 5 — 自前のタイミング・コストテスト計画用シナリオマトリクス。

サポートチケット振り分けデスク

顧客メッセージ 1 件を state として送り、Choice(チーム)、Noul(緊急?)、Score(不満)をまとめて尋ねます。公開ルーティングデモを反映し、マルチプロンプト LLM 分類器チェーンを置き換えます。

公開レイテンシ帯が成り立つとき、サブ秒の決定を期待してください。

高価な LLM 推論前の事前スクリーニング

Jev で低リスクイベントをフィルタし、曖昧なケースだけ GPT/Claude 級モデルへエスカレートします。本番でコストチャートが意味を持つハイブリッドパターンです。

大半のボリュームは安価な決定呼び出しに残り;支出は難しいケースに集中します。

レコードへのバッチ map

同じ質問セットで多くの行をスコア/分類します。公開の無料出力トークンは、長い文字列応答に課金する生成モデルより投機的 fan-out をはるかに優しくします。

コストは主に入力サイズに比例し、冗長な回答にはほぼ比例しません。

高カーディナリティ Choice 選択

大きな選択肢リスト(チーム、SKU、wiki リンク風 choice)を渡します。スキーマ拘束の答えは自由文幻覚を避け、レイテンシと支出を膨らませるパーサー再試行を減らします。

選択肢が増えるほど安定性の利点が積み上がります。

概算コスト表

入力 $0.042 / MTok・出力無料のコミュニティ概算。決定呼び出しあたり約 1,000 入力トークンを仮定。トレースで測ったトークン数に置き換えてください。

月間決定量別の推定 Jev 支出
月間決定数概算入力トークン推定 Jev 入力支出
100,000100M~$4.20
1,000,0001B~$42
10,000,00010B~$420

出力トークンにも課金し、パース失敗後の再試行が多い生成系分類器と比較してください。機能差は Jev と従来 LLMを参照。

Jev 速度・コストベンチマーク | TypeSafe AI パフォーマンスチャート