循环语言模型改进组合工具调用

摘要

循环语言模型在推理基准上表现良好，但在智能体工具使用方面的潜力尚未充分探索。我们在组合工具调用场景中研究此问题，模型需协调多次API调用、维护中间状态并保持依赖关系。在API-Bank、BFCL和NESTful上，对比循环与非循环模型在匹配监督微调下的性能，发现循环计算通常有利于组合和依赖感知的工具使用，而孤立API调用增益较小。多步工具使用准确率随循环深度增加而提高，自适应推理通过按需分配计算实现更好的计算-性能权衡。结果表明循环语言模型是智能体系统有前景的架构。