Ollama

Ollama是开源本地大模型运行工具,支持一键下载运行Llama、DeepSeek等50+模型,提供OpenAI兼容API和跨平台支持。

访问Ollama官网

工具介绍

一、平台定位Ollama是开源的本地大语言模型运行工具,让用户在个人电脑上一键下载、运行和交互大语言模型。支持macOS、Windows和Linux全平台,提供类似Docker的极简体验。2025年推出桌面应用和Ollama Cloud云服务,进一步扩展使用场景。二、核心功能1. 一键运行模型:ollama run命令自动下载并启动模型,无需手动配置环境和依赖。2. 50+模型支持:支持Llama 4、DeepSeek、Qwen、Gemma、Mistral等50+前沿模型自由切换。3. OpenAI兼容API:提供与OpenAI标准兼容的REST API,无缝对接LangChain、LlamaIndex等框架。4. GPU加速:支持NVIDIA CUDA和Apple Silicon原生加速,4-bit量化降低显存需求。5. 多模态支持:支持图像输入和文档分析,Llama 4 Scout等视觉模型可直接使用。6. Ollama Cloud:可选云服务运行超大模型,免费层提供本地无限使用和轻量云访问。7. 编码工具集成:ollama launch命令一键配置Claude Code、C...

功能特点

标签:AI模型 开源 API

分类:AI训练模型

相关工具