白交克雷西发自凹非寺 量子位公众号 QbitAI 太快了太快了。 一夜间，大模型生成已经没什么延迟了……来感受下这速度。 眼花缭乱了吧，生成速度已经接近每秒 500 tokens。 还有更直观的列表对比，速度最高能比以往这些云平台厂商快个 18 倍吧。 （这里面还有个熟悉的身影：Lepton） 网友
白交克雷西发自凹非寺 量子位公众号 QbitAI 太快了太快了。 一夜间，大模型生成已经没什么延迟了……来感受下这速度。 眼花缭乱了吧，生成速度已经接近每秒 500 tokens。 还有更直观的列表对比，速度最高能比以往这些云平台厂商快个 18 倍吧。 （这里面还有个熟悉的身影：Lepton） 网友
By