Jev 速度与成本基准 | TypeSafe AI 性能图表

如何阅读这些图表

这些图表基于公开讨论的 TypeSafe 区间与工作流 headline 制作的社区可视化，并非 jevtypesafe.org 独立实验室跑分。用于理解数量级主张，再通过 API 指南用你自己的 fixture 验证。

生成式前沿模型端到端可能需数秒到数分钟。Jev 公布的 System One 区间为数十到数百毫秒——这是敏捷 Agent 门控与阻塞请求之间的差别。

Jev 定价约为 $0.042 / MTok 输入，且 输出 token 免费。常见 LLM 输入 band 更高且仍对生成字符串计费。网关可能加价——预算前请确认实时费率。

TypeSafe 工作流式评估相对 LLM 决策路径公布了 striking 的相对数字。下图让不愿读完整 eval 的利益相关者快速扫一眼。

这些场景 remix 公开 demo 与开发者文章主题（路由台、批量决策、交互循环、大 Choice 集合）。可作为可复现 fixture 模板——并非复制官方 lab notebook。

将一条客户消息作为 state，同时询问 Choice（团队）、Noul（是否紧急？）与 Score（挫败感）。对应公开路由 demo，替代多 prompt LLM 分类链。

在公布延迟 band 成立时，预期亚秒级决策。

用 Jev 过滤低风险事件，仅将模糊 case 升级到 GPT/Claude 级模型。这是让成本图在生产中真正起作用的混合模式。

大部分流量留在廉价决策调用； spend 集中在难 case。

用同一问题集对多行打分或分类。公布的免费输出 token 使 speculative fan-out 远比对长字符串计费的生成模型温和。

成本主要随输入规模增长，而非冗长答案。

传入大选项列表（团队、SKU、wiki 链接式 choice）。Schema 绑定答案避免自由文本幻觉，减少同时拉高延迟与 spend 的 parser 重试。

选项越多，稳定性收益越 compound。

社区粗算：$0.042 / MTok 输入且输出免费。假设每次决策调用约 1,000 输入 token。请用 trace 实测 token 数替换。

对比同样对输出 token 计费且解析失败后常需重试的生成式分类器。功能级差异见 Jev 与传统 LLM 对比。