AI新闻: 质量差10%, 成本低100倍, 速度快10000倍: 为何模拟正在接管

摘要

据Latent Space报道，自2022年以来，人工智能流水线的各个组件正逐步从人工制造转向模型制造，每个转变都始于前沿实验室的“零号病人”。这种转变可概括为“模拟”，其特点是性能略差（10%），但成本极低（100倍）且速度极快（10000倍）。第一阶段（2022年）：奖励信号合成化，InstructGPT建立奖励模型范式，随后宪法AI和RLAIF让AI自我评判。第二阶段（2023年）：训练数据合成化，微软Phi系列证明“教科书即一切”，苹果WRAP通过LLM重写整个网络使预训练效率提升约3倍，NVIDIA的Nemotron-4 340B发布了许可的合成数据生成流水线。