注:此文章内容均节选自充电了么创始人,CEO兼CTO陈敬雷老师的新书《GPT多模态大模型与AI Agent智能体》(跟我一起学人工智能)【陈敬雷编著】【清华大学出版社】

清华《GPT多模态大模型与AI Agent智能体》书籍配套视频课程【陈敬雷】

GPT多模态大模型与AI Agent智能体系列九十八

零代码搞定!DeepSeek+Dify实战指南:本地化部署AI应用,3步搭知识库/智能体(附避坑技巧)

在AI应用开发门槛居高不下的当下,很多人想拥有“数据私有、灵活定制、不用写代码”的智能工具——而DeepSeek(强性能开源大模型)+Dify(低代码AI开发平台) 的组合,恰好解决了这个痛点。前者提供接近OpenAI o1的推理能力,后者让非技术人员也能拖拽式搭建应用,两者结合既能保证数据本地化安全,又能快速落地聊天助手、企业知识库、智能Agent等场景。本文基于腾讯云开发者社区实战教程,拆解从环境部署到应用落地的全流程,新手跟着做也能一次成功。

一、先搞懂核心:为什么选DeepSeek+Dify?

在动手前,先明确两个工具的定位,避免“知其然不知其所以然”:

  • DeepSeek:深度求索推出的开源大模型,其中DeepSeek-R1是核心款——数学推理、代码生成、中文理解能力突出,7B/8B参数版本在普通服务器甚至高配电脑上就能跑,且支持本地化部署,数据不用上传第三方;
  • Dify:低代码AI应用开发平台,相当于“AI应用的搭积木工具”——不用写一行代码,通过界面配置就能接入大模型、上传私有数据、生成应用,还支持知识库、Agent智能体等核心功能,完美适配企业/个人的定制化需求。

两者结合的核心优势很明确:降低开发门槛(零代码)、保障数据安全(本地化)、提升应用实用性(私有知识库+工具调用),无论是企业做智能客服,还是个人搭知识管理助手,这套组合都能快速落地。

二、第一步:Dify安装部署(Linux系统,新手友好)

Dify依赖Docker环境,推荐用Ubuntu 20.04(稳定性强),全程3步搞定,遇到问题还能换源解决:

1. 环境准备:先装Docker和Docker Compose

这是部署Dify的基础,先卸载旧版本(避免冲突),再装依赖、加国内源(加速下载):

# 1. 卸载旧版Docker
sudo yum remove docker docker-client docker-latest

# 2. 安装必要依赖
sudo yum install -y yum-utils

# 3. 加阿里云Docker源(比官方源快10倍)
sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

# 4. 安装Docker和Docker Compose
sudo yum install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin

# 5. 启动Docker并设为开机自启
sudo systemctl start docker
sudo systemctl enable docker

# 验证:输入后能看到版本号就成功
docker --version
docker-compose --version

2. 获取Dify代码:Git克隆到本地

Dify代码开源在GitHub,用Git命令就能拉取,全程1分钟:

# 克隆代码仓库(没装Git的话先输sudo yum install git)
git clone https://github.com/dify-ai/dify.git

# 进入Dify目录(后续操作都在这里)
cd dify

3. 启动Dify:一行命令跑起来

关键是复制配置文件、用Docker Compose启动,过程中会自动拉取镜像,耐心等5-10分钟(视网速而定):

# 1. 进入Docker配置目录
cd docker

# 2. 复制环境配置文件(把示例文件改成可用配置)
cp .env.example .env

# 3. 启动Dify服务(-d表示后台运行)
docker-compose up -d

避坑点:如果出现“镜像下载失败”,打开.env文件,找到REGISTRY_MIRROR,改成国内镜像源(如https://docker.mirrors.ustc.edu.cn),保存后重新执行docker-compose up -d

三、第二步:Dify配置——连接DeepSeek模型

启动Dify后,得先完成初始化,再把DeepSeek“接”进来,这是实现AI能力的核心:

1. 首次访问与初始化

打开浏览器,输入http://你的服务器IP/(默认端口80,不用加端口号),首次进入会提示“初始化管理员账号”:

  • 输入用户名(如admin)、密码(建议含大小写+数字,更安全);
  • 点击“完成初始化”,就能登录Dify后台了。

2. 配置模型供应商:把DeepSeek加进来

Dify本身不自带模型,需要对接已部署好的DeepSeek(如何部署DeepSeek?可参考之前的Ollama部署教程,这里默认你已在本地/服务器跑通DeepSeek):

  1. 登录后,点击右上角头像→设置,进入配置页面;
  2. 左侧选模型供应商,右侧下拉框找到Ollama(因为DeepSeek是用Ollama部署的),点击“添加模型”;
  3. 填写关键信息:
    • 模型名称:填deepseek-r1:7b(或你部署的其他版本,如8b);
    • 基础URL:填DeepSeek的本地地址(如果Dify和DeepSeek在同一服务器,填http://127.0.0.1:11434;不同服务器填“目标IP:11434”);
    • 其他参数默认,点击“保存”——至此,Dify就和DeepSeek打通了!

排查技巧:如果提示“模型连接失败”,先检查Ollama是否在运行(输ollama list看有没有DeepSeek模型),再确认URL的IP和端口是否正确(11434是Ollama默认端口)。

四、第三步:3大核心应用实战(零代码,全程可视化)

配置好模型后,就能用Dify搭实际应用了,重点讲3个最实用的场景:聊天助手、私有知识库、Agent智能体。

1. 场景1:快速搭“专属聊天助手”

适合个人日常问答、企业简单客服,步骤超简单:

  1. 回到Dify主页,点击全部→创建空白应用→选择“聊天助手”
  2. 填应用信息:名称(如“我的AI助手”)、描述(可选),点击“创建”;
  3. 进入“编排页面”:
    • 模型选择:下拉框选刚才配置的deepseek-r1:7b
    • 提示词设置(关键!):这里的提示词是“给AI的隐藏指令”,用户看不到,比如填“你是专业的职场助手,回答要简洁,重点突出,不聊无关话题”——用来约束AI的回复风格;
  4. 测试优化:点击右上角“预览”,输入问题(如“写一个会议纪要模板”),看AI回复是否符合预期;如果太啰嗦,就回到编排页修改提示词(如加“回复不超过300字”),直到满意。

2. 场景2:建“私有知识库”(让AI懂你的专属资料)

很多时候,AI不懂企业内部文档、行业资料——Dify的知识库功能能解决这个问题,原理是“把文档拆成小块→转化为向量存储→用户提问时检索匹配内容→结合DeepSeek生成答案”:

Step 1:准备知识数据

整理要上传的资料,Dify支持PDF、TXT、MD格式(不建议传DOCX,可能识别不全),比如“公司产品手册.pdf”“2024行业报告.txt”,确保内容准确(数据越准,AI回答越对)。

Step 2:导入知识库
  1. 在Dify左侧点知识库→创建知识库,填名称(如“公司产品库”);
  2. 点击“上传知识”,选择准备好的文档,可一次性传多个;
  3. 设导入参数(新手默认即可):
    • 拆分长度:默认500字符(拆太碎会丢上下文,太大会检索慢);
    • 向量模型:用Ollama的nomic-embed-text(之前部署DeepSeek时可能已装,没装的话输ollama pull nomic-embed-text);
  4. 点击“开始处理”,等1-3分钟(视文档大小),提示“处理成功”就完成了。
Step 3:用知识库聊天
  1. 回到之前建的“聊天助手”应用,在编排页左侧找“知识库”;
  2. 勾选刚才创建的“公司产品库”,点击“保存”;
  3. 预览时提问:比如“我们公司A产品的定价是多少?”——AI会基于上传的产品手册,给出准确答案,而不是泛泛而谈!

3. 场景3:做“Agent智能体”(让AI自动干活)

Agent是更高级的应用,能让AI自动调用工具、处理复杂任务,比如“图表制作助手”“数据查询助手”,以搭“图表制作助手”为例:

  1. 主页点创建空白应用→选择“Agent”,填名称(如“图表制作小助手”);
  2. 编排页面配置:
    • 提示词:“你是图表制作助手,能根据用户需求生成饼图、柱状图,用简单语言说明图表逻辑”;
    • 加工具:点击左侧“工具→添加工具”,搜索“chart_pie_chart”(饼图工具)、“chart_bar_chart”(柱状图工具),选择后按提示授权(部分工具需要APIKey,免费的可先用测试Key);
  3. 调试预览:
    • 输入需求:“用我知识库的‘2024Q1销售数据’,做一个各地区销售额柱状图”;
    • 观察Agent:它会先检索知识库数据,再调用柱状图工具,生成图表链接和说明——全程不用你手动操作!

五、新手必看:3个避坑技巧+2个实用建议

  1. 安装Dify时镜像慢?
    .env文件的镜像源,除了阿里云,还能试网易源(https://hub-mirror.c.163.com),改完重启服务:docker-compose down && docker-compose up -d

  2. 知识库文档识别不全?
    优先用PDF(扫描件不行,要可复制文字的)、TXT,上传前检查格式:去掉多余空格、特殊符号,避免文档太大(单文件建议不超过100MB)。

  3. Agent工具调用失败?
    先看工具是否授权(比如有些API需要填Key),再检查网络:如果工具需要联网(如在线图表工具),确保Dify服务器能连外网。

  4. 实用建议1:数据备份
    知识库数据存在dify/docker/volumes目录,定期复制到其他地方,避免服务器故障丢数据。

  5. 实用建议2:模型升级
    如果觉得DeepSeek-R1:7b性能不够,可升级到8b版本,只需在Ollama输ollama pull deepseek-r1:8b,再在Dify模型配置里改名称即可。

总结:零代码也能搭企业级AI应用

DeepSeek+Dify的组合,打破了“AI应用开发只能靠程序员”的壁垒——非技术人员能零代码搭聊天助手、私有知识库,企业能本地化部署保障数据安全,甚至能做自动干活的Agent。整个流程核心是“部署Dify→连DeepSeek→搭应用”,跟着本文步骤,1小时内就能落地第一个AI应用。

如果是企业用,建议把Dify部署在内部服务器,知识库传行业资料、业务文档;如果是个人用,用本地电脑跑Ollama+DeepSeek+Dify,做专属知识助手——赶紧动手试试,让AI真正为你“量身定制”!

更多技术内容

更多技术内容可参见
清华《GPT多模态大模型与AI Agent智能体》书籍配套视频【陈敬雷】
更多的技术交流和探讨也欢迎加我个人微信chenjinglei66。

总结

此文章有对应的配套新书教材和视频:

【配套新书教材】
《GPT多模态大模型与AI Agent智能体》(跟我一起学人工智能)【陈敬雷编著】【清华大学出版社】
新书特色:《GPT多模态大模型与AI Agent智能体》(跟我一起学人工智能)是一本2025年清华大学出版社出版的图书,作者是陈敬雷,本书深入探讨了GPT多模态大模型与AI Agent智能体的技术原理及其在企业中的应用落地。
全书共8章,从大模型技术原理切入,逐步深入大模型训练及微调,还介绍了众多国内外主流大模型。LangChain技术、RAG检索增强生成、多模态大模型等均有深入讲解。对AI Agent智能体,从定义、原理到主流框架也都进行了深入讲解。在企业应用落地方面,本书提供了丰富的案例分析,如基于大模型的对话式推荐系统、多模态搜索、NL2SQL数据即席查询、智能客服对话机器人、多模态数字人,以及多模态具身智能等。这些案例不仅展示了大模型技术的实际应用,也为读者提供了宝贵的实践经验。
本书适合对大模型、多模态技术及AI Agent感兴趣的读者阅读,也特别适合作为高等院校本科生和研究生的教材或参考书。书中内容丰富、系统,既有理论知识的深入讲解,也有大量的实践案例和代码示例,能够帮助学生在掌握理论知识的同时,培养实际操作能力和解决问题的能力。通过阅读本书,读者将能够更好地理解大模型技术的前沿发展,并将其应用于实际工作中,推动人工智能技术的进步和创新。

【配套视频】

清华《GPT多模态大模型与AI Agent智能体》书籍配套视频【陈敬雷】
视频特色: 前沿技术深度解析,把握行业脉搏

实战驱动,掌握大模型开发全流程

智能涌现与 AGI 前瞻,抢占技术高地

上一篇:《GPT多模态大模型与AI Agent智能体》系列一》大模型技术原理 - 大模型技术的起源、思想
下一篇:DeepSeek大模型技术系列五》DeepSeek大模型基础设施全解析:支撑万亿参数模型的幕后英雄

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐