扩散语言模型九倍推理加速！KV Cache并非自回归模型专属

EPIC Lab 团队投稿量子位 | 公众号 QbitAI 首个用于加速扩散式大语言模型（diffusion-based Large Language Models, 简称 dLLMs）推理过程的免训练方法。上海交通大学 EPIC Lab 团队提出了一种无需训练、即插即用的高效推理缓存机制：dLL