Hugging Face 开源的生产级推理服务引擎，支持主流大模型、张量并行、量化压缩与 OpenAI 兼容 API，一行命令极速部署。
访问 Text Generation Inference 官网了解更多