思维惯性: 大模型在被要求不思考时仍在推理

摘要

大语言模型越来越多自带显式“思考模式”，但其对立面“不思考”研究甚少。研究指出，禁用思考模式、缺少长推理链等代理指标并不可靠，改为把回答拆分为答案前痕迹与最终答案，并设三项指标：衡量严格只答的“空思考率”、问题与答案前痕迹相似度的指令感知相关性、以及由LLM评判的显式推理率。在布尔题、选择题与开放式问题上，对六个模型测试六种提示干预后发现，显式“不思考”控制无法可靠消除可见推理，即“思维惯性”：严格约束下推理仍然存在，且答案空间越开放越普遍。布尔题与选择题准确率保持稳定，开放式任务则显示只答合规与任务准确率之间的取舍；提供候选答案可使模型更易只给答案。