ai-open-source工具
- LMDeploy - 书生·浦语开源的LLM压缩与部署工具箱,TurboMind引擎高吞吐推理,支持量化、服务化部署。
- SGLang - 斯坦福/UC伯克利开源的LLM推理框架,采用RadixAttention前缀缓存,实现高吞吐、低成本的大模型服务。
- OpenLLM - BentoML开源的LLM部署平台,一条命令将Llama、Qwen等模型部署为服务,支持微调、量化与云端发布。
- DeepSpeed - 微软开源的大模型训练优化库,ZeRO技术实现万亿参数训练,推理优化兼顾性能与成本。
- Triton Inference Server - NVIDIA开源的生产级推理服务器,支持多框架、多模型、动态批处理,GPU推理标准方案。
- MLC-LLM - 开源通用LLM部署引擎,支持在Web、iOS、Android、GPU等全平台原生运行大模型,端侧AI利器。
- KoboldCpp - 一键式本地LLM运行工具,整合llama.cpp与Stable Diffusion,支持角色扮演、AI小说与API调用。
- Llama 3 - Meta开源的最强开源大模型系列,8B/70B参数,超长上下文,性能媲美GPT-4级闭源模型,开源大模型里程碑。
- Mistral 7B - Mistral AI开源的7B小模型,性能超越Llama 2 13B,滑动窗口注意力,小模型效率标杆。
- Mixtral 8x7B - Mistral AI开源的稀疏MoE大模型,8个专家子模型组合,470亿参数媲美Llama 2 70B,推理成本大幅降低。
- Qwen - 阿里通义千问开源大模型系列,覆盖0.5B-72B多规格,中英双语强,开源中文大模型代表。
- Qwen2.5 - 阿里通义千问2.5代开源模型,128K超长上下文,编程数学能力全面升级,支持100+语言。
- DeepSeek-LLM - 深度求索开源的大语言模型,中文能力突出,高性价比训练,系列演进至V3/R1等旗舰模型。
- GLM-4 - 智谱AI开源的新一代基座大模型,对标GPT-4,支持128K上下文、多模态理解与智能体,国产大模型代表。
- Gemma - Google DeepMind开源的轻量级大模型,2B/7B规格,基于Gemini技术,安全可靠适合端侧部署。
- Falcon - TII开源的大模型,180B参数训练自RefinedWeb高质量数据集,性能曾登顶开源榜首。
- BLOOM - BigScience社区协作训练的176B开源大模型,支持46种语言,多语言AI开放研究典范。
- Yi - 零一万物开源的双语大模型,6B/34B规格,中英文能力均衡,以高训练质量著称。
- InternLM - 上海AI实验室开源的书生·浦语大模型,覆盖1.8B-123B,工具调用与中文能力强,国产大模型代表。
- LLaVA - 开源视觉指令微调多模态模型,将视觉编码器与LLM结合,支持图文对话,多模态研究基石。
- Qwen-VL - 阿里通义千问开源的多模态视觉语言模型,支持图片理解、视觉问答、OCR识别与图文对话,与Qwen语言模型无缝衔接。
- Qwen2-VL - 通义千问2代多模态视觉语言模型,在图像/视频/多语言理解上全面升级,支持超高分辨率与视频理解,开源旗舰级视觉模型。
- InternVL - 上海AI实验室开源的多模态视觉语言模型,视觉编码器性能领先,支持高分辨率图文理解。
- CogVLM - 智谱AI开源的多模态视觉语言模型,深度对齐视觉与语言特征,图文理解与视觉定位能力强。
- MiniGPT-4 - 视觉语言助手开源项目,仅需一个线性投影层即可将冻结的视觉编码器与LLM对齐,实现图文对话、图片描述等能力。
- DeepSeek-VL - 深度求索开源的视觉语言大模型,采用创新MoE架构,在中文与英文视觉理解任务上表现出色,开源权重可商用。
- IDEFICS - HuggingFace开源的开放多模态模型,基于Flamingo架构,支持图文对话与多图像理解。
- Llama 3.2 Vision - Meta开源的多模态视觉模型,将Llama 3语言能力与视觉编码结合,支持图像理解与图文对话。
- Janus - DeepSeek开源的自回归多模态模型,统一理解与生成任务,支持图文对话、图像理解,创新解码架构。
- NExT-GPT - 开源任意模态到任意模态的通用多模态模型,支持文本/图像/视频/音频跨模态生成与理解。
- Molmo - 艾伦人工智能研究所开源的开放多模态模型,以完全开放的数据集与训练流程著称,提供媲美GPT-4V的视觉理解能力。
- Stable Diffusion - Stability AI开源的文生图扩散模型,掀起AI绘画浪潮的里程碑项目,支持文本生成高质量图像、图生图、局部重绘等。
- SDXL - Stability AI开源的增强版文生图模型,1024x1024高分辨率原生输出,图像质量与美学大幅提升。
- ComfyUI - 最流行的节点式Stable Diffusion工作流引擎,通过可视化节点连线构建AI图像生成流程,支持复杂工作流、批量处理与插件生态。
- AUTOMATIC1111 - 最流行的Stable Diffusion WebUI,功能全面的图形界面,插件生态庞大,AI绘画入门首选。
- Fooocus - 开箱即用的AI图像生成工具,基于Stable Diffusion与Midjourney优化思路,无需复杂配置即可生成媲美专业效果的高质量图像。
- FLUX - Black Forest Labs开源的最强文生图模型,基于流匹配混合架构,图像质量细节登顶开源榜首,支持商用。
- ControlNet - 精准控制图像生成的开源神器,通过线稿、深度图、姿态、边缘等条件约束扩散模型,实现可控的图像生成与编辑。
- Kandinsky - Sber开源的多语言文生图扩散模型,基于图像-文本潜在空间对齐,支持高质量图像生成与编辑,多语言提示词友好。
- InvokeAI - 功能全面的开源AI绘画平台,提供Web界面、节点式工作流、ControlNet支持与模型管理,面向专业创作者的一站式工具。
- AuraFlow - fal.ai开源的Flow Matching文生图模型,采用创新的流匹配架构,生成质量高、推理速度快,开源权重支持商用。
- PixArt-α - 华为与港中文合作开源的文生图扩散模型,以低训练成本、高生成质量著称,支持SDXL级图像生成且训练效率大幅提升。
- CogView - 智谱AI开源的文生图模型系列,基于GLM架构,支持中文提示词生成高质量图像,是国内最早的开源中文文生图模型之一。
- Open-Sora - 潞晨科技开源的视频生成模型,对标Sora,支持文本/图像生成视频,采用STDiT架构,降低视频生成技术门槛。
- CogVideoX - 智谱AI开源的视频生成模型,支持文本/图像生成视频,采用3D变分自编码器与专家Transformer架构,开源权重可商用。
- AnimateDiff - 开源动画生成框架,为Stable Diffusion模型注入运动模块,实现文生GIF动画、图片动起来等能力。
- Stable Video Diffusion - Stability AI开源的视频生成扩散模型,支持图像生成视频、多视角合成,将静态图转化为动态视频。
- HunyuanVideo - 腾讯开源的视频生成大模型,支持文本生成视频,采用DiT架构,中文理解能力强,具备高一致性视频生成能力。
- Mochi - Genmo开源的视频生成模型,采用非对称扩散Transformer架构,支持文本生成视频,主打真实运动与高保真画面。
- Wan2.1 - 阿里通义万相开源的视频生成模型,支持文生视频与图生视频,多规格选择,中文语义理解强。