用几何注释解读潜在蛋白质语言模型特征

摘要

蛋白质语言模型（pLM）内部表征尚不明确。作者提出一种自动可扩展的方法，用蛋白质Cα主链的几何特征解读ESM-2中稀疏自编码器（SAE）特征。在ESM-2 8M各层中，FDR控制的发现分析显示，局部几何与许多SAE特征显著相关，预测强度各异，覆盖范围超过数据库和序列方法；几何还能区分同一数据库注释内的SAE特征，揭示已知标签中的亚结构。相当一部分SAE特征在未注释的宏基因组序列上激活，可用于理解这些序列。接触预测消融显示，移除这些几何特征会使ESM-2预测接触图沿描述符方向偏移。该方法可在残基水平注释SAE神经元激活的蛋白质，联结机制可解释性与结构生物学。