老黄给H100打鸡血：英伟达推出大模型加速包，Llama2推理速度翻倍

克雷西发自凹非寺量子位公众号 QbitAI 大模型的推理速度，仅仅一个月就提高了一倍！英伟达近日官宣给 H100 推出了“鸡血包”——专用于 LLM 推理的加速程序。或许这下可以不用空等明年才能交付的 GH200 了（手动狗头）。 GPU 的运算能力一直影响着大模型的表现，无论是硬件提供者还是