Guardrails

Que son los guardrails?

Los guardrails son reglas de seguridad y limites que restringen lo que la inteligencia artificial puede hacer. Actuan como barandillas que mantienen a la IA dentro de los parametros definidos por tu organizacion, asegurando respuestas apropiadas y evitando comportamientos no deseados.

Tipos de guardrails

• Limites de tokens — Controla la longitud maxima de las respuestas generadas por la IA.
• Restricciones de contenido — Define temas o tipos de respuesta que la IA no debe generar.
• Acceso a herramientas — Controla que herramientas puede usar un agente IA (consultar datos, enviar emails, etc.).
• Limites de costo — Establece un tope de creditos que la IA puede consumir por ejecucion.
• Validacion de salida — Verifica que la respuesta de la IA cumple con un formato o estructura esperada.

Configurar guardrails

Los guardrails se configuran a nivel de nodo en el workflow o a nivel de agente. Al configurar un nodo de IA o un agente, encontraras la seccion "Guardrails" donde puedes definir las reglas aplicables. Los limites de costo y tokens se gestionan desde la seccion de Configuracion de Recursos.