十亿参数，一键瘦身！「模型减重」神器增强型 SmoothQuant，让大模型狂掉 3/4

新智元报道作者：英特尔公司陆崟彤何欣郭恒程文华王畅王梦妮沈海豪编辑：编辑部【新智元导读】Sam Altman 曾表示，语言模型不是越大越好。不断炼大的模型，若想实现高效训练和部署还得需要「量化」。英特尔增强型 SmoothQuant 给出了解决方案。本文介绍了可提升大语言模型的训练后量化表