Jev hız ve maliyet kıyaslamaları | TypeSafe AI performans grafikleri

Bu grafikler nasıl okunur

Bunlar kamuya açık tartışılan TypeSafe aralıkları ve workflow manşetlerinden üretilmiş topluluk görselleştirmeleridir. jevtypesafe.org’un bağımsız laboratuvar ölçümleri değildir. Büyüklük mertebesini anlamak için kullanın, ardından kendi fixture’larınızla API rehberi üzerinden doğrulayın.

Gecikme bantları istek içi yönlendirme kapıları için en önemlidir.
Girdi fiyatı + ücretsiz çıktılar yüksek hacimli skorlama için en önemlidir.
Workflow çarpanları yüke bağlıdır; üst bant pazarlama kanıtı olarak ele alın.

Gecikme grafiği

Üretici frontier modeller uçtan uca saniyelerden dakikalara sürebilir. Jev’in yayımlanan System One bandı onlarca–yüzlerce milisaniyedir — çevik bir ajan kapısı ile bloklanmış istek arasındaki fark.

Jev gecikmesi 70–500 ms ile tipik frontier LLM aralıkları yaklaşık 3–329 saniyeyi karşılaştıran çubuk tarzı grafik — Grafik 1 — System One biçimli sorgular için tartışılan uçtan uca gecikme aralıkları. Görsel ölçek örnektir.

Fiyat grafiği

Jev yaklaşık $0.042 / MTok girdi ve ücretsiz çıktı token’ları listeler. Yaygın LLM bantları girdide daha yüksek başlar ve üretilen dizeleri de ücretlendirir. Ağ geçitleri marj ekleyebilir — bütçelemeden önce canlı tarifeleri doğrulayın.

Jev girdi fiyatı milyon token başına 0,042 doları bütçe ve frontier LLM bantlarıyla karşılaştıran yatay çubuk grafik — Grafik 2 — Girdi token fiyat bantları. Karar iş yüklerinde çıktısız fiyatlandırma maliyet hikâyesinin diğer yarısıdır.

Workflow hız ve maliyet manşetleri

TypeSafe workflow tarzı değerlendirmeler LLM karar yollarına göre çarpıcı göreli sayılar yayımladı. Aşağıdaki grafikler, tam eval’ı okumayacak paydaşlar için bu manşetleri taranabilir kılar.

Workflow değerlendirmelerinde 1× referans LLM yoluna göre Jev’in yaklaşık 194 kat daha hızlı olduğunu gösteren sütun grafik — Grafik 3 — Yayımlanan workflow gecikme manşeti (~194× daha hızlı). Kendi compute grafiğinize karşı doğrulayın.

Workflow değerlendirmelerinde 1× referans LLM yoluna göre Jev’in yaklaşık 445 kat daha ucuz olduğunu gösteren sütun grafik — Grafik 4 — Yayımlanan workflow maliyet manşeti (~445× daha ucuz). Çıktısız faturalama çok sorulu çağrılarda tasarrufu büyütür.

Kamuya açık tarzda test senaryoları

Bu senaryolar kamuya açık demoların ve geliştirici yazılarının temalarını (yönlendirme masaları, toplu kararlar, etkileşimli döngüler, büyük Choice kümeleri) yeniden karıştırır. Kendi tekrarlanabilir fixture’larınıza dönüştürebileceğiniz şablonlardır — kopyalanmış resmi lab defterleri değildir.

Bilet yönlendirme, toplu kararlar, gerçek zamanlı döngüler ve yüksek kardinaliteli Choice kapsayan dört panelli senaryo matrisi — Grafik 5 — Kendi zamanlama ve maliyet testlerinizi planlamak için senaryo matrisi.

Destek bileti triyaj masası

Bir müşteri mesajını state olarak gönderin, ardından Choice (ekip), Noul (acil mi?) ve Score (hayal kırıklığı) birlikte sorun. Kamuya açık yönlendirme demolarını yansıtır ve çok prompt’lu LLM sınıflandırıcı zincirinin yerini alır.

Yayımlanan gecikme bandı tutulduğunda saniyenin altında kararlar bekleyin.

Pahalı LLM akıl yürütmeden önce ön eleme

Düşük riskli olayları filtrelemek ve yalnızca belirsiz vakaları GPT/Claude sınıfı modellere yükseltmek için Jev’i kullanın. Maliyet grafiklerini production’da anlamlı kılan hibrit kalıptır.

Hacmin çoğu ucuz karar çağrılarında kalır; harcama zor vakalarda yoğunlaşır.

Kayıtlar üzerinde toplu map

Aynı soru setiyle birçok satırı skorlayın veya sınıflandırın. Yayımlanan ücretsiz çıktı token’ları, uzun dize yanıtları ücretlendiren üretici modellere göre spekülatif fan-out’u çok daha az cezalandırıcı yapar.

Maliyet çoğunlukla girdi boyutuyla ölçeklenir, uzun yanıtlarla değil.

Yüksek kardinaliteli Choice seçimi

Büyük bir seçenek listesi geçin (ekipler, SKU’lar, wiki bağlantısı tarzı choice’lar). Şemaya bağlı yanıtlar serbest metin halüsinasyonunu önler ve hem gecikmeyi hem harcamayı şişiren parser yeniden denemelerini azaltır.

Seçenek sayısı arttıkça kararlılık kazançları birikir.

Kaba maliyet tablosu

$0.042 / MTok girdi ve ücretsiz çıktılarla kaba topluluk tahmini. Karar çağrısı başına ~1.000 girdi token’ı varsayar. İzlerinizden ölçülen token sayılarıyla değiştirin.

Aylık karar hacmine göre tahmini Jev harcaması
Aylık kararlar	Yaklaşık girdi token	Tahmini Jev girdi harcaması
100.000	100M	~$4.20
1.000.000	1B	~$42
10.000.000	10B	~$420

Çıktı token’larını da ücretlendiren ve parse hatalarından sonra sıkça yeniden deneme gerektiren üretici sınıflandırıcılarla karşılaştırın. Özellik düzeyinde farklar için bakın: Jev vs geleneksel LLM’ler.