henry 发自凹非寺 量子位 | 公众号 QbitAI Token 词元替代了 Byte 字节,但不意味着大模型都得是 Token。 字节模型,特别是蒸馏后,有点儿新说法。 最近,来自 Meta FAIR 和华盛顿大学的论文《突破 Token 天花板:蒸馏出更小、更强的字节模型》,提出了一个很有趣 本文链接