MLC-LLM

基于编译的本地大模型部署，覆盖移动端与 WebGPU。

访问MLC-LLM官网

工具介绍

项目简介基于编译的本地大模型部署，覆盖移动端与 WebGPU。核心特性编译部署端侧/Web多后端获取方式通过上述官方开源仓库(通常为 GitHub)克隆或下载，按 README 安装依赖即可本地部署与二次开发。

功能特点

• 编译部署 端侧/Web 多后端

标签：MLC-LLM 编译 端侧 部署

分类：推理与部署工具