Ollama 本地模型#

Ollama 让你在自己电脑上跑 AI 模型，完全离线、完全隐私。

什么是 Ollama#

Ollama 是个开源工具，可以在本地跑大语言模型。

好处：

• 完全离线，不需要网
• 数据不离开你的电脑
• 免费用，不需要 API Key
• 支持很多开源模型

局限：

• 需要电脑配置好一点
• 模型能力一般比云端的弱
• 第一次用要下载模型

安装 Ollama#

macOS#

# 用 Homebrew
brew install ollama

# 或者去官网下载安装包
# https://ollama.ai/download

Windows#

1. 去 ollama.ai/download
2. 下载 Windows 安装包
3. 运行安装

确认装好了#

ollama --version

安装后，Ollama 会作为后台服务运行。

下载模型#

在终端下载#

# 下载 Llama 3
ollama pull llama3

# 下载 Mistral
ollama pull mistral

# 下载 Qwen（中文好）
ollama pull qwen2

在 MoryFlow 里下载#

1. 打开设置 → 模型管理
2. 找到 Ollama 部分
3. 浏览可用模型
4. 点下载

推荐模型#

综合使用#

电脑配置一般的#

电脑配置好的#

在 MoryFlow 里配置#

1. 配置连接#

1. 打开设置 → 模型管理
2. 找到 Ollama 部分
3. 确认端点地址（默认 http://localhost:11434）

2. 选模型#

配置好后，聊天面板的模型选择器里就能看到下载好的 Ollama 模型了。

3. 开始用#

选个 Ollama 模型，就能开始聊了。所有处理都在本地完成。

电脑配置要求#

最低配置#

• 8GB 内存
• 用 7B 以下的模型

推荐配置#

• 16GB 内存
• 用 7B-13B 的模型

高性能配置#

• 32GB+ 内存
• Apple Silicon（M1/M2/M3）或 NVIDIA 显卡
• 可以跑 70B 模型

怎么跑得更快#

macOS（Apple 芯片）#

Apple Silicon 对 Ollama 支持很好，推荐使用。

Windows（NVIDIA 显卡）#

装好最新的 NVIDIA 驱动，Ollama 会自动用 GPU 加速。

内存不够用#

可以试试：

1. 换个小一点的模型
2. 关掉其他程序
3. 设置 OLLAMA_NUM_PARALLEL=1 限制并发

常见问题#

Ollama 服务没启动#

# 启动服务
ollama serve

模型下载失败#

1. 检查网络
2. 试试用代理
3. 手动下载模型文件

响应很慢#

1. 换个小一点的模型
2. 检查有没有 GPU 加速
3. 关掉其他占资源的程序

中文乱码#

推荐用 Qwen2 模型，中文支持更好。

本地 vs 云端#

建议：隐私敏感的内容用 Ollama，复杂任务用云端模型。