External Guardrails / Judges
Este cenário de tuning mede extensões de política do agente. Antes de interpretar os resultados, implemente e valide o contrato descrito no guia completo.
O cenário deve comparar, no mínimo, latência p50/p95/p99, taxa de allow/deny/sanitize, erros e timeouts, custo de judges com LLM e comportamento fail-open/fail-closed. Separe resultados por código/nome e estágio, sem registrar prompts, PII ou payloads financeiros.
Cuidados de leitura:
type: externalafeta apenas o componente declarado;- implementação síncrona usa worker thread e implementação
asyncusa o event loop; - judges executam concorrentemente, então meça contenção do provedor e do pool;
- compare a mesma carga com extensão desligada para obter o overhead incremental;
- execute casos transacionais separadamente, pois
always_run_for_transactionalignora a amostragem; - no template corrente os pipelines são globais; caminhos por agente não implicam isolamento automático.
Antes do benchmark, rode pytest -q tests/test_external_guardrails_judges_documentation.py para provar que os exemplos do manual ainda carregam e executam.