PolicyGuide: 从守护单个动作到引导整个工作流的策略合规LLM智能体

摘要

客服LLM智能体在代表用户行动时必须遵循组织政策。合规失败源于被禁止的动作（如不合法变更）或遗漏的程序要求（如身份验证）。运行时防护可在风险动作上干预，但动作局部检查无法引导智能体完成多步骤流程。PolicyGuide将每个领域政策编译为工作流图，并在用户轮次边界调用主动验证器。验证器基于持久化的图状态，协调未决请求并返回步骤级补救。在τ²-bench的航空、零售和电信领域（使用GPT-5.4智能体和验证器），PolicyGuide将平均Pass⁴从0.42提升至0.62，其中电信领域提升最大（0.19至0.61）。相同工作流可迁移至Claude Sonnet 4.6和Gemini 2.5 Pro。补充评估显示对抗性用户下攻击成功率最低，程序合规性最强。