谷歌发布高效运行语言模型的 C++ 库：LiteRT-LM

谷歌发布了 LiteRT-LM 早期版本，这是一个 C++ 库，用于在边缘平台上高效运行语言模型。 LiteRT-LM 支持跨平台高效运行 Gemma-3N 系列模型，支持 2B 和 4B 参数模型，适用于桌面环境（Mac/Windows/Linux）及物联网设备。 LiteRT-LM 的 READ

本文链接