OpenBMB

OpenBMB是清华团队发起的大模型开源社区，提供训练、微调、推理全链路工具，致力于让大模型飞入千家万户。

访问OpenBMB官网

工具介绍

一、平台定位OpenBMB（Open Lab for Big Model Base）是由清华大学团队发起的大模型开源社区，旨在打造大规模预训练语言模型库与相关工具，加速百亿级以上大模型的训练、微调与推理，降低大模型使用门槛，实现大模型的标准化、普及化和实用化。二、核心功能1. BMTrain：高效分布式训练框架，支持ZeRO3优化，将显存占用降低数倍，单机可训练大模型。2. ModelCenter：大模型仓库，基于BMTrain实现BERT、GPT、T5、CPM等预训练模型的高效微调与分布式训练。3. BMInf：千元级显卡大模型推理工具，单块GTX 1060即可进行百亿参数模型推理。4. BMCook：大模型压缩工具库，通过量化、剪枝、蒸馏和专家化组合，保持90%+效果同时推理加速10倍。5. OpenDelta：参数高效微调工具，支持Adapter、LoRA等方法，仅更新少量参数即可适配新任务。6. OpenPrompt：提示学习工具库，支持多种提示工程方法和模板管理。三、产品优势清华团队学术背景深厚；全链路工具覆盖；极致优化降低硬件门槛；完全开源免费。四、适用场景大模型训练...

功能特点

标签：AI模型 模型微调 开源

分类：AI训练模型

相关工具