💾

TorchChat

AI开发大模型推理

工具介绍

PyTorch 官方轻量库，pip 安装即可在 CPU/Apple/高通/NPU 上运行 Llama、Qwen 等模型，支持 4-bit 量化与流式生成。

大模型本地推理开源

官方入口

访问 TorchChat 官网了解更多

前往官网 →

最后更新：2026-07-29