新智元报道 编辑：犀牛好困 LLM 的规模爆炸式增长，传统量化技术虽能压缩模型，却以牺牲精度为代价。莱斯大学团队的最新研究 DFloat11 打破这一僵局：它将模型压缩 30% 且输出与原始模型逐位一致！更惊艳的是，通过针对 GPU 的定制化解压缩内核，DFloat11 使推理吞吐量提升最高 38.
新智元报道 编辑：犀牛好困 LLM 的规模爆炸式增长，传统量化技术虽能压缩模型，却以牺牲精度为代价。莱斯大学团队的最新研究 DFloat11 打破这一僵局：它将模型压缩 30% 且输出与原始模型逐位一致！更惊艳的是，通过针对 GPU 的定制化解压缩内核，DFloat11 使推理吞吐量提升最高 38.
By