大模型加速共1篇
SPEED-Bench发布:首个统一多样的推测解码评测基准-象者信息AI集锦

SPEED-Bench发布:首个统一多样的推测解码评测基准

近日,Hugging Face联合研究团队推出全新开源评测基准——SPEED-Bench,专为评估大语言模型的推测解码(Speculative Decoding)性能而设计。与以往零散、场景单一的测试不同,SPEED-Bench 首次...
daxiang的头像-象者信息AI集锦daxiang25天前
03010