DeepSpeed

微软开源的深度学习优化库,支持超大模型推理训练。

访问DeepSpeed官网

工具介绍

项目简介微软开源的深度学习优化库,支持超大模型推理训练。核心特性ZeRO 优化推理优化多 GPU获取方式通过上述官方开源仓库(通常为 GitHub)克隆或下载,按 README 安装依赖即可本地部署与二次开发。

功能特点

标签:DeepSpeed 微软 优化 推理

分类:推理与部署工具