LLM辅助脑机接口通信中的意图漂移: 模拟解码器损坏下的计算机模拟基准

摘要

计算机模拟基准（20个开放权重模型、4252326条标注生成结果）显示，在0–40%目标CER的模拟解码器损坏下，LLM后编辑脑机接口文本会产生意图漂移：AUTH中检出率从2.2%升至60.3%（CER每升高10个百分点，OR 2.30），属压力测试上限而非预期临床率。模型置信度区分忠实输出尚可（AUROC 0.83，0.80–0.85），但校准不佳（ECE 0.32，0.27–0.37）；置信度≥90时28.4%不忠实。六种界面策略均未消除漂移，最优者每100条仍漂移18.0条。作者称这不证明临床伤害，需前瞻性人在回路评估。