⚙️

OpenLLM

AI开发大模型部署

工具介绍

BentoML 开源的大模型服务化平台，一键启动推理 API，支持主流权重、量化、微调与云端弹性扩缩容。

大模型部署开源BentoMLAPI微调量化

官方入口

访问 OpenLLM 官网了解更多

前往官网 →

最后更新：2026-07-29