附带信息污染患者记录并干扰大语言模型临床推理

摘要

研究考察大语言模型对患者就诊中附带信息的敏感性：在576段医患对话中，前沿模型在35%的笔记中插入闲聊交流，五点量表上平均质量得分变化至多0.20分；在3.7%的前沿笔记中，模型错误归因闲谈或将其用于临床。在57段模拟录音会诊中，来自另一次患者就诊的背景语音以-10 dB泄漏进48.2%的转录文本；四个开放权重模型生成的下游笔记中，5.3%检测到污染。作者提出大语言模型中临床推理与分心的双重编码假说，并称初步证据显示，与附带信息干扰相关的模型组件也支持临床推理。结果支持在临床使用前评估对附带信息的抵抗力，并设置既能防止污染又能保留临床推理的保障措施。