SPEED-Bench发布：首个统一多样的推测解码评测基准

近日，Hugging Face联合研究团队推出全新开源评测基准——SPEED-Bench，专为评估大语言模型的推测解码（Speculative Decoding）性能而设计。与以往零散、场景单一的测试不同，SPEED-Bench 首次整合了覆盖文本生成、代码补全、数学推理、多语言理解等6大任务类型和12个多样化数据集，支持公平对比不同推测解码策略（如Medusa、EAGLE、Self-speculation）在延迟、吞吐量、准确率与资源开销上的综合表现。项目还提供标准化API接口与轻量级评估脚本，开发者可一键接入自研解码器进行端到端评测。值得一提的是，所有数据与代码均基于Apache 2.0协议开源，显著降低了算法优化与工业落地的验证门槛。

来源：HuggingFace