SBERT2S1: 把生物医学检索句编码器改造成可校准的类型化决策模型

摘要

研究提出 SBERT2S1，将 Sentence-Transformers 检索编码器改造为一次前向即输出可阈值化概率的类型化决策模型，并发布生物医学套件 BIODECIDE 与源自 NLM 索引的 243k 条训练决策 MEDLINE-S1。在六组父检索器配对中，检索训练改善了零样本对含内容选项的匹配；微调后效果取决于头结构：保留检索先验的 PFR 在 15 组比较中有 10 组显著受益，而交叉头 C 仅一组受益、五组受损。两种头与五种目标的配对网格显示，C 在每种目标下都优于 PFR；开源 System One 采用的 RLCD 配方比交叉熵低 2.5–3.0 分，主要因其奖励归一化把噪声较大的 score-function 项放大 3.6–15 倍，留一无偏估计可挽回大部分差距。温度缩放后，没有目标在校准上明显优于交叉熵。代码、标签与模型均已公开。