Jev Segurança de agentes

Why Jev

Primitivos Noul e Score dão risco calibrado que você limiariza (allow / confirm / block) em dezenas a centenas de milissegundos. Passe o nome do tool planejado + resumo dos args como state; ramifique no código na resposta tipada. Exemplo: shell rm -rf /workspace → Score de alto risco + Choice block antes da execução.

How to define the decision

state deve incluir nome do tool, resumo dos argumentos e intenção opcional do usuário. Peça Choice allow / confirm / block mais Score ou Noul de risco. Mantenha o conjunto de rótulos idêntico ao que o runtime do agente entende.

Sample input and output

From the live tool template. Run it in the playground for a real API response — sample labels below are illustrative until you click Run.

goal: Clean up the build directory

tool: bash

arguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete

context: CI deploy step

Block ou baixa confiança → pause e exija confirmação do operador. Allow só quando o risco estiver claramente abaixo da sua barra. Scores do modelo nunca sobrescrevem denies IAM duros nem escapes de sandbox.

Failure modes and human fallback

• Upstream or network errors: retry with backoff; do not invent a decision.
• Low confidence: route to a human queue or safer default — never auto-act on money/destructive tools.
• Schema drift: keep a golden fixture set in CI so label changes fail the build before production.
• Jev é um gate de política soft — não substitui sandboxing nem least privilege.
• Tools destrutivos de dinheiro/shell devem manter uma deny list dura no código.
• Em falha de API, fail closed (não execute o tool).

API example

Same prepaid jv_live_ balance as tools. Output tokens are free on this host's metering model.

curl https://jevtypesafe.org/api/v1/decide \
  -H "Authorization: Bearer jv_live_YOUR_KEY_HERE" \
  -H "Content-Type: application/json" \
  -d '{"state":"Agent tool proposal\nGoal: Clean up the build directory\nTool: bash\nArguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete\nContext: CI deploy step","questions":{"action":{"type":"choice","instructions":"Should this tool call be allowed, require confirmation, or blocked?","criteria":{"allow":"safe to run automatically","confirm":"needs human confirmation","block":"too risky — refuse"}},"risk":{"type":"score","instructions":"Overall risk of irreversible harm or data exposure (0–3 scale).","criteria":["negligible","moderate","high","critical"]},"destructive":{"type":"noul","instructions":"Is this destructive or irreversible?"},"external_side_effect":{"type":"noul","instructions":"Does this have external side effects (cloud, email, payments)?"},"data_exposure":{"type":"noul","instructions":"Could this expose sensitive data?"}}}'

FAQ

Qual ferramenta abrir primeiro?

Comece por Command Safety (Agent Risk) em Tools, ou ligue perguntas customizadas em /api/v1/decide com choices allow/confirm/block.

Qual é o fallback humano?

Em block ou baixa confiança, pause o agente e mostre uma UI de confirmação a um operador. Nunca deixe um score soft do modelo sobrescrever regras IAM de deny duro.

Related use cases

• Jev Detecção de prompt injection
• Jev Roteamento de modelos
• Jev Triagem de suporte