1. 为什么你需要一个完全免费的本地AI助手？

最近和几个做开发的朋友聊天，发现大家都有个共同的“心病”：想用AI助手，但又担心数据安全，更怕API调用费一不小心就超预算。尤其是做一些内部工具开发或者处理敏感数据的时候，把对话记录、项目信息上传到云端，心里总是不踏实。我自己也经历过，用在线服务做个简单的数据分析，都得先想想数据脱敏的问题，特别麻烦。

如果你也有类似的困扰，那今天分享的这个方案，可能就是为你量身定做的。它的核心目标很简单：零成本、全本地、数据不出门。我们利用 Ollama 这个神器在本地运行大语言模型，再通过 Docker 把 Coze 这个优秀的AI应用开发平台整个“搬”到你的电脑上。整个过程，你不需要支付任何API费用，所有的模型推理、数据处理都在你自己的机器上完成，网络断开照样能用。

这特别适合几类朋友：一是个人开发者或独立创作者，想低成本地打造一个专属的写作助手、代码伴侣；二是小型团队或初创公司，需要在内部网络环境部署一个智能客服或知识库问答系统，确保商业机密不外泄；三是技术爱好者或学生，想深入学习大模型和容器化技术，有一个绝佳的实战项目。说白了，这就是给你一台能完全掌控的“私人AI服务器”。

听起来很酷，但你可能担心：这会不会特别复杂，对电脑要求很高？别急，我会把每一步都掰开揉碎了讲。我自己的体验是，只要跟着步骤走，哪怕你之前没怎么接触过 Docker 和命令行，一个下午也能搞定。而且，我们会用最“傻瓜式”的方法，避开所有我踩过的坑，让你一路绿灯直达终点。准备好了吗？我们这就开始。

2. 搭建前的“弹药”准备：工具与环境检查

工欲善其事，必先利其器。在动手搭建之前，我们需要准备好三样核心“武器”。别担心，它们都是免费且容易获取的。

2.1 第一件武器：Ollama，你的本地模型引擎

Ollama 是我们整个方案的“心脏”。你可以把它理解为一个专门在本地电脑上管理和运行各种开源大模型的“发动机”。它把复杂的模型加载、推理过程封装成了简单的命令行操作，让你用一句 ollama run 就能让模型跟你对话。

怎么安装？ 访问 Ollama 的官网，根据你的操作系统（Windows、macOS 或 Linux）下载对应的安装包，像安装普通软件一样点击下一步即可。安装完成后，打开你的终端（Windows 上是 PowerShell 或 CMD，macOS/Linux 是 Terminal），输入 ollama --version，如果能看到版本号，恭喜你，第一步成功了。

关键一步：选对模型！ 这是决定你后续体验是否流畅的核心。Ollama 支持很多模型，比如 Llama 3、Mistral、Qwen、DeepSeek 等。对于大多数个人电脑，我强烈建议从“小”模型开始尝试：

• Llama 3.2:1B 或 3B：Meta 出品，英文能力强，1B/3B 参数对硬件极其友好。
• Qwen2.5:0.5B 或 1.5B：阿里通义千问的轻量版，中文理解非常出色。
• DeepSeek-R1:1.5B：深度求索的模型，在数学和代码方面有优势。

怎么下载？在终端里运行 ollama pull <模型名> 即可，例如 ollama pull llama3.2:1b。这个过程会从网上下载模型文件，速度取决于你的网络和模型大小（小模型通常几分钟就好）。切记，先从1B-3B参数的小模型开始，确保你的电脑能跑起来，后面再根据情况升级。我的 MacBook Pro (M1, 16G内存) 跑 3B 模型对话很流畅，供你参考。

2.2 第二件武器：Docker，你的环境隔离舱

如果说 Ollama 是发动机，那 Docker 就是一套精密的“隔离舱”和“标准化集装箱系统”。Coze 本身依赖一堆环境（Go、Node.js、MySQL等），手动安装配置堪比走迷宫，版本冲突、端口占用能让人崩溃。Docker 把 Coze 和它需要的所有环境打包成一个完整的“镜像”，我们只需要一条命令就能拉取并运行这个“集装箱”，里面环境是预设好的，与你的电脑系统完全隔离，干净又省心。

安装 Docker Desktop：去 Docker 官网下载 Docker Desktop 安装包。安装后打开它，你会看到一个小鲸鱼图标在系统托盘区。第一次启动可能需要一点时间，并可能要求你登录账户（可以免费注册）。启动成功后，在终端输入 docker --version 和 docker compose version 检查是否安装成功。

一个必做的加速设置：由于网络原因，从 Docker 官方仓库拉取镜像可能会非常慢。我们需要配置一个镜像加速器。打开 Docker Desktop，点击设置（Settings），找到 Docker Engine 选项。你会看到一个 JSON 配置框。在里面找到或添加 "registry-mirrors" 这一项，把下面的地址加进去：

{
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://dockerproxy.com",
    "https://docker.mirrors.ustc.edu.cn"
  ]
}

点击“Apply & Restart”重启 Docker。这个操作能极大提升后续下载镜像的速度，是我踩过“下载超时”这个坑后学到的宝贵经验。

2.3 第三件武器：Coze 的部署代码

Coze 官方很贴心地提供了开源的自托管代码。我们需要把它拿到本地。打开浏览器，访问这个 GitHub 仓库：https://github.com/coze-dev/coze-studio。点击绿色的 “Code” 按钮，选择 “Download ZIP”，把代码压缩包下载到你的电脑上，然后解压到一个你容易找到的目录，比如 D:\coze-studio 或 /Users/你的名字/Projects/coze-studio。记住这个路径，后面会用到。

环境检查清单：

• [ ] Ollama 已安装并能运行 ollama --version。
• [ ] Docker Desktop 已启动并能运行 docker --version。
• [ ] 已从 GitHub 下载并解压 coze-studio 代码到本地目录。
• [ ] 电脑至少有 8GB 可用内存（运行小模型+Coze的最低要求，16GB更佳）。

3. 核心配置：让 Coze 和 Ollama 成功“握手”

工具齐备，现在我们要做最关键的一步：配置。目的是让运行在 Docker 容器里的 Coze，能够访问到运行在你本地主机（Host）上的 Ollama 服务。这里有个常见的“网络隔阂”需要解决。

3.1 启动你的本地模型服务

首先，确保 Ollama 的服务在运行。打开终端，输入：

ollama serve

这个命令会启动 Ollama 的后台服务，默认监听本机的 11434 端口。不要关闭这个终端窗口，让它一直运行。你可以新开一个终端窗口，输入 ollama list 来查看你已经下载的模型，或者用 ollama run llama3.2:1b 来测试一下模型是否能正常对话。测试成功后，按 Ctrl+C 退出对话，但保持 ollama serve 那个窗口运行。

3.2 配置 Docker 的文件共享

因为我们的 Coze 代码在本地文件夹里，而 Docker 容器运行时需要读取里面的配置文件。所以需要告诉 Docker Desktop：“这个文件夹允许容器访问”。

打开 Docker Desktop 的设置，找到 Resources -> File Sharing。点击 “+” 号，把你刚才解压 coze-studio 代码的完整路径添加进去。比如我的是 /Users/tony/Projects/coze-studio。添加后点击 “Apply & Restart”。这一步很重要，否则后续 Docker 容器会找不到配置文件而启动失败。

3.3 修改 Coze 的环境变量文件

这是整个配置的“灵魂”，决定了 Coze 去哪里找模型。进入你解压的 coze-studio 文件夹，找到 docker 子目录。里面会有一个 env.example 文件，这是环境变量示例。我们复制一份，并重命名为 .env（注意前面有个点）。

用任何文本编辑器（如 VS Code、Notepad++）打开这个新建的 .env 文件。我们需要修改几个关键地方，让 Coze 指向我们本地的 Ollama。

首先，找到模型配置部分。你可以用编辑器的搜索功能（Ctrl+F）搜索 MODEL_PROTOCOL_0。你会看到类似下面这样的一堆配置：

# 示例位置，你的行号可能略有不同
export MODEL_PROTOCOL_0="openai"
export MODEL_OPENCOZE_ID_0="100001"
export MODEL_NAME_0="gpt-3.5-turbo"
export MODEL_ID_0="gpt-3.5-turbo"
export MODEL_API_KEY_0="sk-xxx"
export MODEL_BASE_URL_0="https://api.openai.com/v1"

我们需要把它们改成 Ollama 的配置。请务必修改成下面这样：

export MODEL_PROTOCOL_0="ollama"          # 协议改为 ollama
export MODEL_OPENCOZE_ID_0="100001"       # 这个ID可以不变
export MODEL_NAME_0="我的本地 Llama 模型" # 这里可以起个你喜欢的名字，在Coze界面显示
export MODEL_ID_0="llama3.2:1b"           # **关键！改成你实际用ollama pull下载的模型名**
export MODEL_API_KEY_0=""                 # API密钥留空，因为我们不用
export MODEL_BASE_URL_0="http://host.docker.internal:11434" # **关键！让容器访问主机服务**

重点解释 MODEL_BASE_URL_0：host.docker.internal 是一个特殊的域名，在 Docker 容器内部，它指向容器所在宿主机的本地主机（即你的电脑）。这样，容器里的 Coze 就能通过 http://host.docker.internal:11434 这个地址，访问到你电脑上运行的 Ollama 服务了。

接着，找到内置对话模型的配置。继续在文件里搜索 BUILTIN_CM_TYPE，把它的值也改成 ollama。然后找到它下面的 BUILTIN_CM_OLLAMA_BASE_URL 和 BUILTIN_CM_OLLAMA_MODEL，同样修改：

export BUILTIN_CM_TYPE="ollama"
...
export BUILTIN_CM_OLLAMA_BASE_URL="http://host.docker.internal:11434"
export BUILTIN_CM_OLLAMA_MODEL="llama3.2:1b" # 同样改成你的模型名

保存并关闭 .env 文件。至此，配置工作就完成了。你相当于给 Coze 写了一张“寻人启事”，告诉它：“你的大脑（模型）不在云端，就在这台电脑的 11434 端口，名字叫 llama3.2:1b，快去连接吧。”

4. 一键启动：用 Docker Compose 拉起整个服务

最激动人心的时刻到了！我们将用一条命令，启动所有服务。打开你的终端（或 PowerShell），使用 cd 命令切换到 coze-studio 项目的根目录。比如：

cd /Users/tony/Projects/coze-studio

确认当前目录下有一个 docker 文件夹。然后，执行以下魔法命令：

docker compose -f ./docker/docker-compose.yml up -d

分解一下这个命令：

• docker compose：调用 Docker 的编排工具。
• -f ./docker/docker-compose.yml：指定使用的配置文件路径。
• up：创建并启动所有服务。
• -d：让容器在后台运行（daemon模式），这样你就可以关闭终端窗口了。

按下回车后，Docker 会开始拉取 Coze 所需的多个镜像（包括前端、后端、数据库等）。第一次运行会花费一些时间，具体取决于你的网速。你会看到终端里刷刷地滚动日志。这是正常现象，请耐心等待，可以去泡杯茶。

当最终出现类似下面这样的提示，并且没有持续的错误报出时，就表示启动成功了：

[+] Running 4/4
 ✔ Network docker_default       Created
 ✔ Container docker-mysql-1     Healthy
 ✔ Container docker-backend-1   Started
 ✔ Container docker-frontend-1  Started

你可以再运行一次 docker ps 命令，查看正在运行的容器，应该能看到三个容器：frontend, backend, mysql，状态都是 Up。

5. 验收成果：访问你的私有化 Coze 平台

所有服务启动完毕后，打开你最喜欢的浏览器，在地址栏输入：

http://127.0.0.1:8888

或者

http://localhost:8888

如果一切顺利，你将会看到 Coze 的登录/注册界面！是的，和官方那个很像，但现在是完全运行在你本地的。直接输入一个邮箱和密码点击注册，系统会自动为你创建账户并登录。不需要邮件验证，因为数据库就在本地的 Docker 容器里。

登录进去后，你可以创建一个新的 Bot（机器人）。在配置 Bot 的模型时，你应该能在模型下拉列表里看到你之前在 .env 文件里设置的 MODEL_NAME_0（例如“我的本地 Llama 模型”）。选择它，然后就可以开始和你的本地 AI 助手对话了！

第一次对话可能会稍慢，因为 Ollama 需要加载模型到内存。后续的对话速度就会快很多。你可以问它问题，让它写诗，或者尝试用它来总结文档。所有的计算都发生在你的电脑上，数据没有离开过你的机器。

6. 进阶技巧与避坑指南

成功运行只是开始，要让这个本地助手更稳定、更好用，这里有几个我实战中总结的进阶技巧和常见问题的解决办法。

6.1 如何管理 Docker 容器和服务？

• 查看日志：如果页面打不开或者 Bot 没反应，首先查日志。运行 docker compose -f ./docker/docker-compose.yml logs 可以查看所有容器的日志。在后面加上服务名，如 logs backend，可以只看后端的日志，便于排查。
• 停止服务：当你不用时，在项目目录下运行 docker compose -f ./docker/docker-compose.yml down。这会停止并移除容器，但保留数据卷（你的数据库数据还在）。
• 彻底清理（慎用）：如果想从头再来，运行 docker compose -f ./docker/docker-compose.yml down -v。这会删除所有容器和数据卷，你的 Bot 配置和对话记录也会被清空。
• 更新 Coze 版本：如果 GitHub 上项目更新了，你可以 git pull 拉取最新代码（如果你是用 git clone 的话），或者重新下载 ZIP 包覆盖。然后重新执行 docker compose up -d，Docker 会基于新的代码构建镜像。

6.2 性能优化与模型切换

• 内存不足怎么办？ 如果对话时电脑卡顿，或者 Ollama 报内存错误。首先，确保你运行的是小参数模型（如1B, 3B）。其次，可以在运行 ollama run 时指定参数限制 GPU 层数或使用 CPU 模式，例如 ollama run llama3.2:1b --num-gpu 10（如果显卡内存小）。最根本的还是升级硬件或使用更小的模型。
• 如何切换其他模型？ 非常简单。首先用 ollama pull <新模型名> 下载新模型。然后，修改 coze-studio/docker/.env 文件，将 MODEL_ID_0 和 BUILTIN_CM_OLLAMA_MODEL 的值改为新的模型名。最后，重启 Docker 服务：先 docker compose down，再 docker compose up -d。刷新 Coze 页面，你的 Bot 就可以选用新模型了。
• 想用多个模型怎么办？ Coze 支持配置多个模型。你可以在 .env 文件中复制 MODEL_PROTOCOL_0 那一整套配置，将数字 0 改为 1，比如 MODEL_PROTOCOL_1、MODEL_ID_1，并设置不同的模型名和同一个 BASE_URL。这样在 Coze 创建 Bot 时，就可以在多个本地模型间选择了。

6.3 常见问题排查（踩坑记录）

1. 访问 127.0.0.1:8888 报错“无法连接”：

   • 检查 Docker 是否运行：确认 Docker Desktop 小鲸鱼图标是绿色的。
   • 检查容器状态：运行 docker ps，看三个容器是否都在 Up 状态。如果有 Exited 的，用 docker logs <容器名> 查看原因。常见原因是 .env 文件配置错误或端口被占用。
   • 检查端口占用：本地 8888 端口可能被其他程序占用。可以修改 docker-compose.yml 文件中 frontend 服务的端口映射，比如改成 "8899:8888"，然后重启服务，通过 127.0.0.1:8899 访问。

2. Bot 提示“模型不可用”或回复超时：

   • 检查 Ollama 服务：确保运行 ollama serve 的终端窗口没有关闭，并且没有报错。
   • 检查模型名：确认 .env 文件里的 MODEL_ID_0 和你用 ollama list 看到的模型名完全一致，包括大小写和冒号后的标签。
   • 测试 Ollama 接口：在浏览器或终端用 curl 访问 http://localhost:11434/api/generate（需要 POST 请求，略复杂），或者更简单点，直接在终端运行 ollama run <模型名> 看模型本身是否能正常工作。

3. Docker 拉取镜像速度慢或失败：

   • 回顾我们第二步做的镜像加速器配置，确保已经应用并重启了 Docker。
   • 可以尝试更换 registry-mirrors 里的镜像地址，网上有很多国内源。

这个方案最让我满意的一点是，它把复杂的云原生和AI部署流程，简化成了几个明确的步骤。一旦跑通，你就拥有了一个高度定制化、完全受控的AI开发环境。你可以基于这个本地 Coze，开发各种自动化工作流，处理本地文档，甚至把它作为内部知识库的智能接口，而所有这些，都不会产生一分钱的云服务费用。