OpenLLM

BentoML 开源的任何模型一键部署为服务的工具。

工具介绍

项目简介BentoML 开源的任何模型一键部署为服务的工具。核心特性一键服务多框架可上云获取方式通过上述官方开源仓库(通常为 GitHub)克隆或下载，按 README 安装依赖即可本地部署与二次开发。

标签：OpenLLM BentoML 部署服务