经验链: 大型语言模型的持续改进

摘要

本研究提出“经验链”（Chain-of-Experience, CoE）范式，让大型语言模型（LLM）在测试时通过与自我或环境反馈的迭代交互积累经验，实现持续改进。在数学、编程和知识领域，使用8种LLM（包括GPT-5、Gemini-2.5 Pro、Claude-4.5 Sonnet）评估，发现利用迭代经验一致优于无反馈基线，仅自我反馈即带来显著提升，总体提升5.6%，API成本降低19%。结合互补反馈通道（如模型与正确性信号）可进一步增益，且CoE在每token准确率上优于现有测试时策略。模型基础能力与改进能力正相关，且在弱或虚假反馈下仍保持稳健。