Guardrails
Configure limites e regras de seguranca para controlar o comportamento da IA nos seus workflows e agentes.
O que sao guardrails?
Os guardrails sao regras de seguranca e limites que restringem o que a inteligencia artificial pode fazer. Atuam como barreiras de protecao que mantem a IA dentro dos parametros definidos pela sua organizacao, garantindo respostas apropriadas e evitando comportamentos indesejados.
Tipos de guardrails
- Limites de tokens — Controla o comprimento maximo das respostas geradas pela IA.
- Restricoes de conteudo — Define temas ou tipos de resposta que a IA nao deve gerar.
- Acesso a ferramentas — Controla quais ferramentas um agente IA pode usar (consultar dados, enviar emails, etc.).
- Limites de custo — Estabelece um teto de creditos que a IA pode consumir por execucao.
- Validacao de saida — Verifica se a resposta da IA atende a um formato ou estrutura esperada.
Configurar guardrails
Os guardrails sao configurados no nivel do no no workflow ou no nivel do agente. Ao configurar um no de IA ou um agente, voce encontrara a secao "Guardrails" onde pode definir as regras aplicaveis. Os limites de custo e tokens sao gerenciados na secao de Configuracao de Recursos.