红帽宣布推出llm-d社区，NVIDIA、Google Cloud为创始贡献者

5 月 27 日上午消息，全球开源解决方案提供商红帽公司近日宣布启动新开源项目 llm-d，以满足生成式 AI 大规模推理需求。据悉，该项目与创始贡献者 CoreWeave、Google Cloud、IBM Research 和 NVIDIA 合作打造，能够利用突破性的大规模生成式 AI 推理技术，

本文链接