RAGCell: 以检索增强生成作为监督信号的多功能单细胞分析框架

摘要

现成的单细胞基础模型存在两大问题：预训练需在海量细胞上进行、资源消耗大；基于大语言模型的模型则忽视了文本空间与原始细胞空间之间的巨大异质鸿沟，下游任务能力不足。RAGCell 提出双管齐下的方案：借助 LLM 构建细胞级和特征级知识数据库，作为训练细胞模型的监督信号，显著降低训练成本（优于预训练型 scFM）；同时将细胞表征与双层知识库的文本嵌入对齐，实现文本空间向细胞空间的知识迁移，缓解异质鸿沟（优于 LLM 型 scFM）。在六项下游单细胞分析任务的广泛实验中，RAGCell 性能优于最先进的 scFM，而成本不到预训练型 scFM 的约十分之一。