本文へスキップ
Jev | typesafeAPI & Playground
…

Use Cases / agent-safety

Jev エージェントセーフティ

エージェントは shell、支払い、削除 API を呼べる。長いチャット補完ではなく、各ツール前の高速な可否リスクゲートが必要。

Try a related template free on this host — 5 anonymous real-API runs with no signup — then ship the same schema with a prepaid jv_live_ key. See is Jev free? and playground.

Try live demoGet API keyAPI docs

Why Jev

Noul と Score 原語が閾値可能な校正リスク（allow / confirm / block）を数十〜数百ミリ秒で返す。計画ツール名 + 引数要約を state にし、型付き回答で分岐。例：shell rm -rf /workspace → 高リスク Score + block Choice、実行前に止める。

How to define the decision

state にツール名、引数要約、任意のユーザー意図を含める。allow / confirm / block の Choice と、リスク用の Score または Noul を聞く。ラベルセットをエージェントランタイムと同一にする。

When to use Jev

  • ツール呼び出し前のリスクゲート
  • 破壊的アクションの確認後送信
  • エージェント計画のポリシーチェック

When not to use Jev

  • サンドボックスと最小権限 IAM の代替
  • より安全なコードパッチの生成
  • 無制限の多ホップセキュリティ監査

Sample input and output

From the live tool template. Run it in the playground for a real API response — sample labels below are illustrative until you click Run.

Input

goal: Clean up the build directory

tool: bash

arguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete

context: CI deploy step

Sample display fields

  • action: block · 84%
  • risk: 0.84

block または低信頼 → 一時停止しオペレータ確認を要求。リスクが明確に閾値未満のときだけ allow。モデルスコアはハード IAM 拒否やサンドボックス脱出防止を上書きしない。

Failure modes and human fallback

  • Upstream or network errors: retry with backoff; do not invent a decision.
  • Low confidence: route to a human queue or safer default — never auto-act on money/destructive tools.
  • Schema drift: keep a golden fixture set in CI so label changes fail the build before production.
  • Jev はソフトポリシーゲート —— サンドボックスや最小権限の代替ではない。
  • 破壊的な金銭/shell ツールはコードにハード拒否リストを残す。
  • API 失敗時は fail closed（ツールを実行しない）。

API example

Same prepaid jv_live_ balance as tools. Output tokens are free on this host's metering model.

curl
curl https://jevtypesafe.org/api/v1/decide \
  -H "Authorization: Bearer jv_live_YOUR_KEY_HERE" \
  -H "Content-Type: application/json" \
  -d '{"state":"Agent tool proposal\nGoal: Clean up the build directory\nTool: bash\nArguments: rm -rf ./dist && aws s3 sync ./build s3://prod --delete\nContext: CI deploy step","questions":{"action":{"type":"choice","instructions":"Should this tool call be allowed, require confirmation, or blocked?","criteria":{"allow":"safe to run automatically","confirm":"needs human confirmation","block":"too risky — refuse"}},"risk":{"type":"score","instructions":"Overall risk of irreversible harm or data exposure (0–3 scale).","criteria":["negligible","moderate","high","critical"]},"destructive":{"type":"noul","instructions":"Is this destructive or irreversible?"},"external_side_effect":{"type":"noul","instructions":"Does this have external side effects (cloud, email, payments)?"},"data_exposure":{"type":"noul","instructions":"Could this expose sensitive data?"}}}'

FAQ

最初にどのツールを開くべき？
Tools の Command Safety（Agent Risk）から始めるか、/api/v1/decide に allow/confirm/block のカスタム質問を配線します。
人によるフォールバックは？
block または低信頼時はエージェントを止め、オペレータに確認 UI を出す。ソフトなモデルスコアでハード IAM 拒否を上書きしないでください。

Related use cases

Ready to build?

Free anonymous tool runs, then prepaid packs and a jv_live_ key — independent host, not affiliated with TypeSafe AI.

See pricingRun a demo
Jev エージェントセーフティ | ツール実行前のリスクゲート