🚀

Xorbits Inference

AI开发大模型部署

工具介绍

开源的大模型推理集群平台，一条命令部署任意主流权重，内置量化、缓存、弹性扩缩与 OpenAI 兼容 API。

大模型推理集群开源量化OpenAI-APIGPU 调度

官方入口

访问 Xorbits Inference 官网了解更多

前往官网 →

最后更新：2026-07-29