在推理时解锁多模态蛋白质语言模型

摘要

多模态蛋白质语言模型（pLM）学习序列与结构的联合分布，其生成性能也应关键取决于推理时的采样策略。作者建立三阶段研究框架，在三个代表性pLM和四个基础任务上实证考察推理设计空间，比较普通采样、任务特定的无分类器引导和奖励引导束搜索，分别对应采样分布、每步logits和并行轨迹的控制。围绕探索-利用权衡的互补进展，研究发现默认推理协议并非最优，存在面向任务的采样偏好；在不更新模型参数的情况下持续提升多模态pLM的上限性能；并得出与先前共识不同的基座模型结论。