FLOPs与实际工作: AI效率评估中复现的重要性

摘要

该论文复现了一项提出α-FLOPs估算公式的研究，以检验其在更新更强的硬件上是否仍适用。复现材料存在依赖细节缺失与回归数据不透明等局限。结果支持原始结论：仅FLOPs不足以衡量执行时间，空间维度比核维度更易并行化；但细粒度测量显示关系复杂得多，新硬件上执行时间出现不稳定、跳变和振荡，α-FLOPs公式普遍低估。研究确认原始实证发现，但α-FLOPs估算应用呈负面结果，并强调完整复现包的必要性。