Ollama 使用介绍：功能、价格与上手指南

Ollama 是一款开源工具，让开发者能在本地轻松运行 Llama、Mistral、Gemma 等大语言模型。本文介绍其核心功能、价格模式（完全免费）、安装与使用步骤，并提供 API 调用、模型管理、性能优化等可执行指南，同时对比 LM Studio 等替代方案，帮助你在 10 分钟内上手本地 AI。

想在自己的电脑上跑大语言模型，却苦于环境配置复杂？Ollama 正是为解决这一痛点而生。本文将带你全面了解 Ollama 的功能、价格与上手方法，让你在十分钟内拥有一个可离线使用的本地 AI 助手。

Ollama 是什么？

Ollama 是一个开源的大型语言模型（LLM）本地运行工具，支持 macOS、Linux 和 Windows。它把模型下载、量化、推理服务打包成一条命令，用户只需执行 ollama run llama3 即可与模型对话。

与调用云端 API 不同，Ollama 让数据完全留在本地，适合隐私敏感、网络受限或需要低成本反复调试的场景。

Ollama 的核心功能

1. 一键拉取与运行模型

Ollama 内置模型库，涵盖 Llama 3、Mistral、Gemma、Phi、Qwen 等主流开源模型。使用 ollama pull 下载，ollama run 启动交互对话，无需手动处理 GGUF 格式或推理框架。

2. 兼容 OpenAI 的 REST API

Ollama 默认在 http://localhost:11434 提供 API，并兼容 OpenAI 接口格式。这意味着你可以把现有基于 OpenAI SDK 的代码直接迁移到本地，只需修改 base_url。

3. 自定义模型（Modelfile）

通过 Modelfile，你可以定义系统提示词、温度、上下文长度等参数，甚至基于已有模型微调出专属助手。例如：

FROM llama3
PARAMETER temperature 0.7
SYSTEM "你是一个专业的 Python 编程助手。"

4. 多平台与 GPU 加速

Ollama 支持 Apple Silicon 的 Metal 加速、NVIDIA CUDA 以及 AMD ROCm，能自动检测并利用 GPU 提升推理速度。

5. 模型管理与日志

ollama list 查看已下载模型，ollama rm 删除模型，ollama ps 查看运行中的模型。日志位于 ~/.ollama/logs，便于排查问题。

Ollama 价格：完全免费？

Ollama 本身是开源免费的，采用 MIT 许可证。你可以无限次使用、修改和分发，无需支付任何订阅费用。

但需要注意：

  • 模型费用：模型本身免费，但下载和运行会消耗你的硬盘、内存和电费。
  • 硬件成本：运行 7B 模型建议至少 8GB 内存；70B 模型则需要 64GB 以上内存或专业 GPU。
  • 企业支持：Ollama 官方不提供付费企业版，但社区和第三方可提供商业支持。

如果你希望获得托管服务，可以考虑 Ollama 的云托管或使用 RunPod、Lambda 等 GPU 云，按小时计费。

如何上手 Ollama：分步指南

步骤 1：安装 Ollama

  • macOS：下载 .dmg 安装包或执行 brew install ollama。
- Linux：执行 `curl -fsSL https://ollama.com/install.shsh`。
  • Windows：下载官方安装程序，双击运行。

安装后，终端输入 ollama --version 验证。

步骤 2：启动服务

大多数安装会自动启动后台服务。若未启动，执行：

ollama serve

步骤 3：下载并运行模型

ollama run llama3

首次运行会自动下载模型（约 4.7GB）。下载完成后，你会看到 >>> 提示符，直接输入问题即可。

步骤 4：通过 API 调用

curl http://localhost:11434/api/generate -d '{
  "model": "llama3",
  "prompt": "用一句话解释量子纠缠"
}'

Python 示例：

import requests
response = requests.post('http://localhost:11434/api/generate', json={
    'model': 'llama3',
    'prompt': '你好，请自我介绍'
})
print(response.json()['response'])

步骤 5：配置图形界面（可选）

Ollama 本身是命令行工具，但可搭配 Open WebUI、Chatbox 等前端，获得类似 ChatGPT 的体验。

Ollama 常用命令速查表

命令作用
ollama run <model>运行模型并进入对话
ollama pull <model>仅下载模型
ollama list列出已下载模型
ollama rm <model>删除模型
ollama ps查看运行中的模型
ollama serve启动 API 服务
ollama create <name> -f Modelfile创建自定义模型

Ollama 的优缺点

优点

  • 免费开源，无使用限制
  • 隐私安全，数据不出本地
  • 安装简单，一条命令即可运行
  • 生态活跃，支持大量模型和前端

缺点

  • 硬件要求高，大模型需要强劲 GPU
  • 无官方 GUI，需借助第三方界面
  • 模型能力受限于开源模型本身

Ollama vs LM Studio：如何选择？

维度OllamaLM Studio
界面命令行 + API图形界面
开源是否（免费但闭源）
模型格式GGUF、SafetensorsGGUF
API 兼容OpenAI 兼容OpenAI 兼容
适用人群开发者、自动化普通用户、尝鲜

如果你习惯命令行、需要集成到代码中，Ollama 更合适；如果你偏好图形界面、不想碰终端，LM Studio 更友好。

常见问题解答

Q1：Ollama 支持中文吗？ 支持。Llama 3、Qwen、Gemma 等模型均有不错的中文能力，推荐使用 Qwen2.5 或 Llama 3.1。

Q2：运行模型需要多大内存？ 7B 模型约需 8GB，13B 约需 16GB，70B 约需 64GB。量化版本可降低要求。

Q3：Ollama 能商用吗？ Ollama 本身可商用，但需遵守具体模型的许可证。例如 Llama 3 有月活限制，商用前请阅读模型协议。

Q4：如何更新 Ollama？ 重新执行安装命令即可覆盖更新，或使用 brew upgrade ollama（macOS）。

结论

Ollama 是目前最易用的本地大模型运行工具，免费、开源、跨平台，适合开发者、研究者和隐私敏感用户。通过本文的步骤，你已经可以完成安装、运行模型并调用 API。下一步，建议尝试自定义 Modelfile 或搭配 Open WebUI，打造专属的本地 AI 工作流。

如果你正在寻找云端替代方案，也可关注 Groq、Together AI 等推理服务，按需选择。

返回 AI 教程列表