据Latent Space报道,自2022年以来,人工智能流水线的各个组件正逐步从人工制造转向模型制造,每个转变都始于前沿实验室的“零号病人”。这种转变可概括为“模拟”,其特点是性能略差(10%),但成本极低(100倍)且速度极快(10000倍)。第一阶段(2022年):奖励信号合成化,InstructGPT建立奖励模型范式,随后宪法AI和RLAIF让AI自我评判。第二阶段(2023年):训练数据合成化,微软Phi系列证明“教科书即一切”,苹果WRAP通过LLM重写整个网络使预训练效率提升约3倍,NVIDIA的Nemotron-4 340B发布了许可的合成数据生成流水线。
相关动态
沿时间看主要节点
AI新闻: 质量差10%, 成本低100倍, 速度快10000倍: 为何模拟正在接管
全基因组CRISPR筛选揭示银屑病新靶点
Biohub研究人员进行了他们认为首个针对原代人成人皮肤细胞的全基因组CRISPR研究,并利用AI模型挖掘结果,发现了被忽视的银屑病药物靶点:催产素受体。据《自然·通讯》报道,含抑制催产素受体及其他靶点的局部凝胶,在减轻小鼠银屑病炎症方面与注射药物等效。Kelley和Abdrabou共同领导了这项研究,他们称该方法为可推广的蓝图。银屑病影响全球约1.25亿人,局部治疗对轻症有效,但中重度需要全身治疗,现有药物有副作用。
CZ Biohub发布“ESM Atlas”, ESMFold2预测11亿蛋白质结构并称超越AlphaFold
据《自然》27日报道,美国生物医学研究机构 CZ Biohub 发布“ESM Atlas”数据库,其中收录其AI模型ESMFold2预测的11亿个蛋白质结构和68亿条蛋白质序列,结构数据比AlphaFold数据库多8亿。ESMFold2基于团队2024年发布的蛋白质语言模型,训练数据含来自生物体的数十亿蛋白质数据,包括未纳入AlphaFold数据库的宏基因组。CZ Biohub称其性能优于包括AlphaFold3在内的其他模型,能更准确预测抗体-抗原等复合物结构,并设计出与癌症、免疫疾病相关蛋白强结合的新型抗体和蛋白质,实验室验证与预测一致。专家看法不一:有人视之为重要新资源,也有人质疑其性能。
Biohub发布蛋白质生物学世界模型
Biohub宣布发布蛋白质生物学世界模型,包括ESMC、ESMFold2和ESM Atlas。ESMC是在约28亿条序列上训练的语言模型。ESMFold2能设计蛋白质结合剂,针对五个癌症和免疫学靶点的计算设计仅需数天,实验室验证显示高亲和力、特异性和稳定性,且与公共数据库序列相似度低,表明生成了全新解决方案。ESM Atlas覆盖68亿条蛋白质序列和11亿个预测结构,揭示了包括基因编辑酶在内的进化联系。