Jev Ajan güvenliği

Why Jev

Noul ve Score primitifleri, onlarca–yüzlerce milisaniyede eşiğe bağlanabilir kalibre risk (allow / confirm / block) verir. Planlanan tool adı + args özetini state olarak geçin; tipli yanıta göre kodda dallanın. Örnek: shell rm -rf /workspace → yüksek risk Score + block Choice, çalıştırmadan önce.

How to define the decision

state tool adı, argüman özeti ve isteğe bağlı kullanıcı niyetini içermelidir. allow / confirm / block için Choice artı risk için Score veya Noul sorun. Etiket kümesini ajan runtime’ınızın anladığıyla aynı tutun.

Sample input and output

From the live tool template. Run it in the playground for a real API response — sample labels below are illustrative until you click Run.

goal: Clean up the build directory

tool: bash

arguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete

context: CI deploy step

Block veya düşük güven → duraklatın ve operatör onayı isteyin. Yalnızca risk açıkça çubuğunuzun altındayken allow. Model skorları asla sert IAM reddini veya sandbox kaçış korumasını geçersiz kılmaz.

Failure modes and human fallback

• Upstream or network errors: retry with backoff; do not invent a decision.
• Low confidence: route to a human queue or safer default — never auto-act on money/destructive tools.
• Schema drift: keep a golden fixture set in CI so label changes fail the build before production.
• Jev yumuşak bir politika kapısıdır — sandboxing veya least privilege yerine geçmez.
• Yıkıcı para/shell tool’ları kodda sert deny list tutmalıdır.
• API başarısızlığında fail closed (tool’u çalıştırmayın).

API example

Same prepaid jv_live_ balance as tools. Output tokens are free on this host's metering model.

curl https://jevtypesafe.org/api/v1/decide \
  -H "Authorization: Bearer jv_live_YOUR_KEY_HERE" \
  -H "Content-Type: application/json" \
  -d '{"state":"Agent tool proposal\nGoal: Clean up the build directory\nTool: bash\nArguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete\nContext: CI deploy step","questions":{"action":{"type":"choice","instructions":"Should this tool call be allowed, require confirmation, or blocked?","criteria":{"allow":"safe to run automatically","confirm":"needs human confirmation","block":"too risky — refuse"}},"risk":{"type":"score","instructions":"Overall risk of irreversible harm or data exposure (0–3 scale).","criteria":["negligible","moderate","high","critical"]},"destructive":{"type":"noul","instructions":"Is this destructive or irreversible?"},"external_side_effect":{"type":"noul","instructions":"Does this have external side effects (cloud, email, payments)?"},"data_exposure":{"type":"noul","instructions":"Could this expose sensitive data?"}}}'

FAQ

Önce hangi aracı açmalıyım?

Tools’ta Command Safety (Agent Risk) ile başlayın veya /api/v1/decide üzerinde allow/confirm/block seçenekleriyle özel sorular bağlayın.

İnsan yedek yolu nedir?

Block veya düşük güvende ajanı duraklatın ve operatöre onay UI’si gösterin. Yumuşak model skorunun sert IAM deny kurallarını geçersiz kılmasına asla izin vermeyin.

Related use cases

• Jev Prompt injection tespiti
• Jev Model yönlendirme
• Jev Destek triyajı