开源 GPU 集群管理器,支持 NVIDIA/AMD/昇腾等异构算力,通过 vLLM/llama-box 等后端一键部署 100+ 大模型,提供 OpenAI 兼容 API 与实时监控。
访问 GpuStack 官网了解更多