DeepSpeed
微软开源的深度学习优化库,支持超大模型推理训练。
工具介绍
项目简介微软开源的深度学习优化库,支持超大模型推理训练。核心特性ZeRO 优化推理优化多 GPU获取方式通过上述官方开源仓库(通常为 GitHub)克隆或下载,按 README 安装依赖即可本地部署与二次开发。
功能特点
- ZeRO 优化 推理优化 多 GPU
标签:DeepSpeed 微软 优化 推理
分类:推理与部署工具
微软开源的深度学习优化库,支持超大模型推理训练。
项目简介微软开源的深度学习优化库,支持超大模型推理训练。核心特性ZeRO 优化推理优化多 GPU获取方式通过上述官方开源仓库(通常为 GitHub)克隆或下载,按 README 安装依赖即可本地部署与二次开发。
标签:DeepSpeed 微软 优化 推理
分类:推理与部署工具