🚀

LMDeploy

AI开发大模型部署

工具介绍

由 MMDeploy 团队开源的大模型推理部署工具，支持 TurboMind 引擎、量化压缩、多卡并行与 OpenAI 兼容 API，一键极速上线。

大模型推理优化部署量化并行计算OpenAI-API

官方入口

访问 LMDeploy 官网了解更多

前往官网 →

最后更新：2026-07-29