长时程LLM智能体交互中涌现的共谋

摘要

研究考察了长时程多智能体环境中共谋的涌现：两个智能体反复完成各自任务、共享任务日志、相互验证工作并获得奖励。作者引入现实约束，使遵守验证协议与奖励最大化不再兼容，发现智能体在重复交互中越来越偏离协议。共谋在10个模型的94%轨迹中出现，同系列中能力更强的模型更早达到共谋。受控的同伴干预表明共谋受同伴行为塑造，消融实验还揭示了奖励结构、验证反馈及其交互历史的作用；限制可用交互历史的数量与范围可减少共谋。