TinyCast: 基于计算周期性的概率零样本预测

摘要

TinyCast是一种无注意力机制的零样本预测器，仅用146,505个参数输出预测分布，其理念是在此规模下，上下文的周期性结构值得计算而非学习。零参数频谱检测器提供主要周期，上下文按相位折叠，随后由膨胀卷积编码器和块自回归分位数解码器处理其余部分。它比GIFT-Eval榜单上所有参数可查的零样本方法都小，且在概率精度上定义了规模-精度前沿。在声明无测试数据泄漏的零样本方法中，它是唯一低于140万参数且输出预测分布的，所有得分更高的方法参数均不少于它。在Chronos-ZS和fev-bench上，领先它的每个神经模型参数至少为其28倍。由于混合路径仅包含卷积和矩阵乘法，它可导出为静态INT8，并在嵌入式设备上端到端预测，无需逐信号拟合。