梦晨发自凹非寺 量子位公众号 QbitAI 32 位与 16 位格式的混合精度训练,正是当前深度学习的主流。 最新的英伟达核弹 GPU H100,刚刚添加上对 8 位浮点数格式 FP8 的支持。 英伟达首席科学家 Bill Dally 现在又表示,他们还有一个“秘密武器”: 在 IEEE 计算机运算 本文链接