Agent Canvas 中的护栏：AI 代理的结构控制

当你告诉法学硕士“永远不要提供医疗建议”时，你就是在依赖概率合规性。当您在 Agent Canvas 中添加一个护栏节点来检测医疗主题并路由至升级流程时，您正在实施结构约束。区别在于：偶尔会失败。模型无法绕过另一个。

护栏的类型

• 主题块——防止代理参与特定主题（竞争对手定价、医疗诊断、法律建议）。检测发生在编排层，而不是提示。
• 强制披露——在特定点注入所需的语言：通话开始时的人工智能身份披露、金融交易前的合规语言、记录同意通知。
• 升级触发——满足条件时自动进行人工切换：客户请求人工、情绪低于阈值、对话超出复杂性限制。
• 数据处理规则——编辑日志中的敏感信息、防止存储支付数据、对 PII 实施字段级加密。
• 操作限制——限制代理可以使用哪些工具以及在什么条件下使用（例如，可以自主处理 50 美元以下的退款，必须升级到 50 美元以上）。

护栏在画布中可见

每个护栏都是对话图中的可见节点或边。合规团队可以通过检查画布来审核流程——他们可以看到披露信息的注入位置、升级发生的位置以及哪些主题过滤器处于活动状态。对于仅提示的系统来说，这种可审计性是不可能的，因为护栏被隐藏在可能被遵循或可能不被遵循的自然语言指令段落中。