OpenClaw + Ollama：在 Mac 上打造完全私有的 AI Agent

为什么要本地运行 AI

云端大模型好用，但每一条消息都要经过别人的服务器。对于个人助手、代码审查、私密文件处理这类场景，把数据交出去并不是所有人都能接受的。本地运行 AI 的核心优势可以归结为四个字：私、省、快、稳。

• 隐私——数据不出本机。所有推理在 Mac 上完成，prompt 和输出都不经过任何第三方。处理合同、病历、财务数据时尤其重要
• 成本——省掉 API 账单。14B 参数的本地模型已经能搞定日常 80% 的任务（写邮件、总结文档、改代码），而这些在云端意味着每月几十到几百美元的 API 费用。本地模型一次下载，永久免费
• 速度——零网络延迟。本地推理的首 token 延迟通常在 100ms 以内，而云端 API 光网络往返就要 200-500ms（中国用户走代理更慢）。对于需要频繁交互的 Agent 场景，这个差距非常明显
• 离线——断网也能用。飞机上、高铁隧道里、网络故障时，本地 Agent 照常工作。这一点对 7×24 运行的 OpenClaw 来说是关键保障

硬件选择：Mac Mini 三档推荐

Apple Silicon 的统一内存架构天然适合大模型推理——CPU 和 GPU 共享同一块内存，不需要像 NVIDIA 显卡那样通过 PCIe 搬运数据。这意味着在同样的内存容量下，Mac 能跑更大的模型，且不存在显存瓶颈。

为什么特别推荐 Mac 跑大模型？关键在于统一内存架构（Unified Memory）。传统 PC 上，大模型需要加载到显卡的显存（VRAM）里，而消费级显卡显存普遍只有 8-16GB，严重限制了可运行的模型大小。Mac 的统一内存让 CPU 和 GPU 共享全部内存，24GB 的 Mac Mini 可以直接加载 14B 模型的全部权重，不需要做任何量化妥协。加上 Apple Silicon 的内存带宽（M4 Pro 达到 273GB/s），推理速度完全够用。

安装 Ollama

Ollama 是目前 Mac 上运行本地大模型最简单的方案——一行命令安装，一行命令拉模型，开箱即用。它会自动检测你的 Apple Silicon 芯片并启用 Metal GPU 加速。

1. 安装与验证

# 安装 Ollama（macOS）
curl -fsSL https://ollama.com/install.sh | sh

# 验证安装
ollama --version
# 预期输出: ollama version is 0.18.3

# 拉取推荐模型（24GB 内存选 phi4，16GB 选 qwen3.5）
ollama pull phi4

# 快速测试
ollama run phi4 "用一句话解释统一内存对大模型的好处"

2. 配置为后台服务

如果你打算让 Ollama 7×24 运行（配合 OpenClaw），需要把它注册为 macOS 的 launchd 服务：

# 创建 launchd plist
cat << 'EOF' > ~/Library/LaunchAgents/com.ollama.server.plist
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN"
  "http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">
<dict>
  <key>Label</key>
  <string>com.ollama.server</string>
  <key>ProgramArguments</key>
  <array>
    <string>/usr/local/bin/ollama</string>
    <string>serve</string>
  </array>
  <key>RunAtLoad</key>
  <true/>
  <key>KeepAlive</key>
  <true/>
  <key>EnvironmentVariables</key>
  <dict>
    <key>OLLAMA_HOST</key>
    <string>0.0.0.0:11434</string>
    <key>OLLAMA_NUM_PARALLEL</key>
    <string>2</string>
    <key>OLLAMA_MAX_LOADED_MODELS</key>
    <string>2</string>
  </dict>
</dict>
</plist>
EOF

# 加载服务
launchctl load ~/Library/LaunchAgents/com.ollama.server.plist

# 验证服务运行状态
curl http://localhost:11434/api/tags

按内存选模型

模型选择的核心原则很简单：模型大小不能超过可用内存的 80%（系统和 Ollama 本身也要占用内存）。以下是在 M4 Pro 上实测的数据：

实用建议：不要盲目追大模型。对于 OpenClaw 的日常 Agent 任务（回复消息、管理日历、处理邮件），7B 模型的速度优势远比 32B 模型的智力优势重要——45 t/s 意味着一条回复 0.5 秒出来，而 12 t/s 要将近 2 秒。建议常驻一个 7B 快速模型处理简单任务，需要深度思考时再切换到 14B 或调用云端。Ollama 支持同时加载多个模型，切换几乎无感。

安装配置 OpenClaw

Ollama 准备好之后，接下来安装 OpenClaw 并将它指向本地模型。整个过程不到 5 分钟。

1. 安装 OpenClaw

# 安装 OpenClaw
npx openclaw init

# 进入交互式配置
openclaw onboard

# 在配置向导中：
# 1. 选择模型后端 → Ollama (Local)
# 2. Ollama 地址 → http://localhost:11434（默认即可）
# 3. 选择默认模型 → phi4（或你已拉取的模型）
# 4. 设置 API Key（用于云端备用模型，可跳过）

2. 启动 OpenClaw

# 启动 Gateway（后台服务）
openclaw gateway start

# 打开 Dashboard（可视化管理面板）
openclaw dashboard

# 验证 Ollama 连接
openclaw models list
# 应该能看到你已拉取的本地模型

3. macOS 特有功能

OpenClaw 在 macOS 上有一些独占能力：

• Apple Shortcuts 集成 — 可以通过 Siri 语音触发 OpenClaw 任务（「嘿 Siri，让 Agent 帮我总结今天的邮件」）
• 通知中心 — Agent 完成任务后通过 macOS 通知推送结果
• iMessage 支持 — 直接在 iMessage 对话中和 Agent 交互（本地通信，不经过网络）
• Keychain 集成 — API Key 等敏感信息存储在 macOS Keychain 中，而非明文配置文件

ClashX 混合路由：本地 + 云端

最实用的架构是本地模型和云端 API 混合使用。ClashX 可以精确控制哪些请求走直连、哪些走代理——本地 Ollama 的请求走 DIRECT（不浪费代理流量），云端 API 的请求走代理节点。

rules:
  # === 本地模型 — 直连 ===
  - DOMAIN-SUFFIX,localhost,DIRECT
  - IP-CIDR,127.0.0.0/8,DIRECT,no-resolve
  - IP-CIDR,192.168.0.0/16,DIRECT,no-resolve

  # === DeepSeek（中国直连）===
  - DOMAIN-SUFFIX,deepseek.com,DIRECT

  # === 云端 AI API — 走代理 ===
  - DOMAIN-SUFFIX,openai.com,🤖 AI Agent
  - DOMAIN-SUFFIX,oaiusercontent.com,🤖 AI Agent
  - DOMAIN-SUFFIX,anthropic.com,🤖 AI Agent
  - DOMAIN-SUFFIX,claude.ai,🤖 AI Agent
  - DOMAIN-SUFFIX,generativelanguage.googleapis.com,🤖 AI Agent

  # === 消息平台 — 走代理 ===
  - DOMAIN-SUFFIX,whatsapp.com,🤖 AI Agent
  - DOMAIN-SUFFIX,whatsapp.net,🤖 AI Agent
  - DOMAIN-SUFFIX,telegram.org,🤖 AI Agent
  - DOMAIN-SUFFIX,t.me,🤖 AI Agent
  - DOMAIN-SUFFIX,discord.com,🤖 AI Agent
  - DOMAIN-SUFFIX,signal.org,🤖 AI Agent

  # === 其他流量直连 ===
  - MATCH,DIRECT

VPS 替代方案：没有 Mac 也能跑

不是所有人都有 Mac Mini。如果你更倾向于云端部署，VPS 是一个灵活的替代方案。Ollama 同样可以在 Linux VPS 上运行，配合 OpenClaw 实现 24/7 在线的 AI Agent。

VPS 方案的优势在于：不需要本地硬件投入、天然 24 小时在线、公网 IP 方便远程访问。缺点是需要月费、数据不在本地（隐私性降低）、推理速度取决于 VPS 配置。

常见问题