Визуальный отчёт
Бенчмарки скорости и стоимости Jev
Как читать графики
Это community-визуализации на основе публично обсуждаемых диапазонов TypeSafe и заголовков workflow. Это не независимые лабораторные прогоны jevtypesafe.org. Используйте их, чтобы понять порядок величин, затем проверьте своими fixtures через руководство по API.
- Полосы задержки важнее всего для routing-gates внутри запроса.
- Цена входа + бесплатные выходы важнее всего для high-volume scoring.
- Множители workflow зависят от нагрузки; воспринимайте их как верхнюю маркетинговую полосу.
График задержки
Генеративные frontier-модели могут занимать от секунд до минут end-to-end. Опубликованная полоса System One у Jev — десятки–сотни миллисекунд: разница между быстрым agent-gate и заблокированным запросом.
График цен
Jev указывает около $0.042 / MTok за вход и бесплатные выходные токены. Обычные полосы LLM выше на входе и всё ещё тарифицируют сгенерированные строки. Gateway могут добавлять наценку — подтвердите живые тарифы до бюджета.
Заголовки скорости и стоимости workflow
Workflow-оценки TypeSafe опубликовали яркие относительные числа против LLM-путей решений. Графики ниже делают эти заголовки сканируемыми для стейкхолдеров, которые не прочитают полный eval.
Публичные сценарии тестов
Эти сценарии пересобирают темы публичных демо и статей разработчиков (routing-столы, пакетные решения, интерактивные циклы, большие Choice). Это шаблоны для воспроизводимых fixtures — не скопированные официальные lab notebooks.
Стол triage тикетов поддержки
Отправьте одно сообщение клиента как state, затем спросите Choice (команда), Noul (срочно?) и Score (фрустрация) вместе. Отражает публичные routing-демо и заменяет цепочку LLM-классификаторов с несколькими prompt.
Ожидайте субсекундные решения, когда держится опубликованная полоса задержки.
Предфильтр перед дорогим LLM-рассуждением
Используйте Jev, чтобы отфильтровать низкорисковые события и эскалировать только неоднозначные случаи на модели класса GPT/Claude. Гибридный паттерн, из‑за которого графики стоимости важны в production.
Большая часть объёма остаётся на дешёвых decision-вызовах; траты концентрируются на сложных случаях.
Пакетный map по записям
Скорьте или классифицируйте много строк одним набором вопросов. Опубликованные бесплатные выходные токены делают спекулятивный fan-out гораздо менее наказательным, чем генеративные модели, тарифицирующие длинные строковые ответы.
Стоимость растёт в основном с размером входа, а не с многословными ответами.
Choice высокой кардинальности
Передайте большой список опций (команды, SKU, choice в стиле wiki-ссылок). Ответы, привязанные к схеме, избегают галлюцинаций свободного текста и снижают parser-повторы, раздувающие задержку и траты.
Выигрыш в стабильности накапливается с ростом числа опций.
Грубая таблица стоимости
Грубая community-оценка при $0.042 / MTok входа и бесплатных выходах. Допущение ~1 000 входных токенов на decision-вызов. Замените измеренными токенами из трасс.
| Решений в месяц | Примерно входных токенов | Оценка трат на вход Jev |
|---|---|---|
| 100 000 | 100M | ~$4.20 |
| 1 000 000 | 1B | ~$42 |
| 10 000 000 | 10B | ~$420 |
Сравните с генеративными классификаторами, которые также тарифицируют выход и часто нуждаются в повторах после ошибок разбора. Для различий на уровне функций см. Jev против традиционных LLM.