CrewAI 结合 Ollama 本地大模型 Llama3.1 获取研究报告
一、前言
本指导文档将基于 CrewAI 官方快速入门教程(Quickstart - CrewAI),详细介绍如何通过 Ollama 部署的本地大模型 Llama3.1,实现 AI 研究报告的自动生成。相比依赖云端 API,本地大模型能在保证数据隐私的同时降低使用成本,适合对数据安全性有要求的场景。
二、前置准备
在开始前,需完成以下工具的安装与配置:
1. 基础环境
- Python 3.8+(确保环境变量已配置,可通过
python --version验证) - pip(Python 包管理工具,通常随 Python 一同安装)
2. 核心工具安装
(1)安装 CrewAI
通过 pip 安装 CrewAI 核心库:
bash
pip install crewai
(2)安装 Ollama 并部署 Llama3.1
- 安装 Ollama:
访问 Ollama 官方网站,根据操作系统(Windows/macOS/Linux)下载对应安装包并完成安装。 - 部署 Llama3.1:
打开终端,执行以下命令拉取并启动 Llama3.1 模型(首次运行需下载模型,耗时取决于网络速度):bash
ollama run llama3.1
启动成功后,模型将在本地http://localhost:11434提供 API 服务。
(3)安装 Ollama-CrewAI 适配工具
为让 CrewAI 调用本地 Llama3.1,需安装 ollama 库及 CrewAI 工具依赖:
bash
pip install ollama crewai-tools
三、创建 CrewAI 项目
1. 初始化项目
通过 CrewAI 命令创建研究报告项目(以 “最新 AI 模型发展” 为主题示例):
bash
# 创建项目目录(包含基础结构)
crewai create crew llama3-ai-research
# 进入项目目录
cd llama3-ai-research
项目目录结构说明(核心文件):
src/llama3_ai_research/config/agents.yaml:定义智能体(如研究员、报告分析师)src/llama3_ai_research/config/tasks.yaml:定义任务(如调研、报告撰写)src/llama3_ai_research/crew.py:配置智能体、任务及协作流程main.py:项目入口,传递输入参数并启动任务
2. 配置智能体(agents.yaml)
修改 src/llama3_ai_research/config/agents.yaml,定义两个智能体:“研究员”(负责收集信息)和 “报告分析师”(负责整理报告)。
注意:需与后续 crew.py 中的方法名保持一致(命名一致性是 CrewAI 自动关联配置与代码的关键)。
yaml
# agents.yaml
researcher:
role: >
{topic} 高级数据研究员
goal: >
挖掘 {topic} 领域的前沿发展动态
backstory: >
你是一名资深研究员,擅长快速定位 {topic} 领域的关键信息,能以清晰简洁的方式整理核心内容。
reporting_analyst:
role: >
{topic} 报告分析师
goal: >
根据调研数据和研究结果生成详细报告
backstory: >
你是一名注重细节的分析师,能将复杂信息转化为易懂的报告,让读者快速掌握核心结论。
3. 配置任务(tasks.yaml)
修改 src/llama3_ai_research/config/tasks.yaml,定义两个任务:“调研任务”(由研究员执行)和 “报告任务”(由分析师执行)。
yaml
# tasks.yaml
research_task:
description: >
对 {topic} 领域进行全面调研,重点收集 2025 年的最新动态(如技术突破、应用案例)
expected_output: >
包含 10 个要点的列表,每个要点需明确说明信息来源(如“某机构发布的研究”“某企业产品更新”)
agent: researcher # 绑定到 researcher 智能体
reporting_task:
description: >
基于调研结果,将每个要点扩展为报告章节,确保内容详实、逻辑清晰
expected_output: >
完整的 Markdown 格式报告(无需代码块标记),包含标题、章节划分和关键结论
agent: reporting_analyst # 绑定到 reporting_analyst 智能体
output_file: report.md # 报告输出路径
四、配置本地模型(核心步骤)
默认情况下,直接修改env文件中的MODEL即可。
env
MODEL=ollama/llama3.1:8b
API_BASE=http://localhost:11434
五、运行项目生成报告
1. 配置输入参数(main.py)
打开 src/llama3_ai_research/main.py,指定研究主题(如 “AI 大模型在医疗领域的应用”):
python
运行
#!/usr/bin/env python
import sys
from llama3_ai_research.crew import Llama3AiResearchCrew
def run():
# 定义输入参数(研究主题)
inputs = {
'topic': 'AI LLMs'
}
# 启动 Crew 执行任务
Llama3AiResearchCrew().crew().kickoff(inputs=inputs)
if __name__ == "__main__":
run()
2. 安装依赖并运行
bash
# 安装项目依赖(自动处理 CrewAI 及工具依赖)
crewai install
# 运行项目(在项目根目录执行)
crewai run
3. 获取报告
运行成功后,报告将保存至 src/llama3_ai_research/output/report.md,具体运行过程如下:


通过以上步骤,你已成功实现基于 CrewAI 和本地大模型 Llama3.1 的研究报告自动生成。
更多推荐
所有评论(0)