《Monroe: 用于上下文概率推断的分子基础模型》

摘要

Monroe是一个新的分子基础模型，在超过8100万个分子的PM6量子化学数据集上预训练，改进了立体化学的图表示、训练损失（包括构象去噪和嵌入去相关）以及多任务学习，并使用TabPFN进行下游上下文预测。在Polaris基准上，Monroe匹配或超过现有模型，在活性悬崖基准上显著优于先前方法。消融和迁移实验表明，基于PFN的下游预测器也能提升MiniMol和CheMeleon，分别产生状态-of-the-art变体MiniMol_PFN和CheMeleon_PFN，表明其适应策略具有通用性。