PTXBench: 面向GPU内核优化的架构特定PTX基准与LLM适配

摘要

PTXBench是一个用于评估和适配大语言模型（LLM）利用架构特定PTX进行GPU内核优化的基准。它在H100和B200 GPU上，针对GEMM和注意力任务，衡量功能正确性、目标指令是否在运行时执行以及相对前沿库的加速比。评估显示，LLM的架构特定PTX能力参差不齐：在复杂注意力反向任务上成功率显著下降，且执行目标指令并不保证带来竞争力性能。没有模型能始终匹配前沿库。进一步，研究者使用监督微调适配Qwen3.6-27B，修复条件训练改善了部分任务，但泛化仍不均衡，数据覆盖、平衡和推理教师的质量与数据集大小同等重要。PTXBench为衡量和提升LLM利用不断演进的GPU架构提供了可审计的测试平台。