生物学中AI模型的高效自动可解释性

摘要

稀疏自编码器（SAE）等可解释性方法有望通过解释AI模型的超人类能力，使其成为生物学发现引擎。作者将评估潜在变量时经常混为一谈的三个问题整合为一条流水线：跨种子字典稳定性优先筛选值得研究的潜在变量；入侵者检测任务判断其激活示例是否呈现可识别模式；随后提出候选生物学描述，转化为可在计算机上检验的预测。在Boltz-1 Pairformer主干上，稳定性筛选以约4.4倍更少的潜在变量评估和5.2倍更低的实测成本找回过半潜在变量；外部检验显示所得基序显著富集所标注注释。结果还提示，跨种子稳定性可能更偏好结构相关特征，而非功能相关特征。