AI Agent架构中的记忆演化:从向量检索到知识图谱的进阶
AI Agent架构中的记忆演化:从向量检索到知识图谱的进阶
1. 引言
在人工智能技术飞速发展的今天,AI Agent(智能体)作为一种能够自主感知环境、做出决策并执行行动的智能系统,正逐渐成为AI领域的研究热点。从早期的规则引擎到如今的大语言模型(LLM)驱动的智能体,AI Agent的能力得到了前所未有的提升。然而,无论技术如何演进,一个核心问题始终困扰着研究者:如何让AI Agent像人类一样拥有持久、连贯且可演化的记忆系统?
人类的记忆系统是一个复杂而精妙的机制,它不仅能够存储信息,还能够对信息进行组织、关联和检索,更重要的是,它能够随着时间的推移不断演化和更新。在AI Agent的架构设计中,记忆系统的重要性不言而喻:它是Agent保持会话连贯性、实现个性化交互、积累领域知识的基础。
本文将深入探讨AI Agent架构中记忆系统的演化历程,从最初的简单向量检索,到后来的知识图谱,再到如今的混合记忆架构。我们将分析各种记忆机制的原理、优缺点,并通过实际代码示例展示如何实现这些技术。最后,我们还将展望AI Agent记忆系统的未来发展趋势。
2. 核心概念与基础理论
2.1 AI Agent的基本架构
在深入探讨记忆系统之前,我们首先需要了解AI Agent的基本架构。一个典型的AI Agent通常包含以下几个核心组件:
- 感知模块:负责从环境中获取信息,可能是文本、图像、音频等多种形式。
- 推理/决策模块:基于感知到的信息和记忆中的知识,进行推理和决策。
- 行动模块:根据决策结果,执行相应的行动。
- 记忆模块:存储Agent的经验、知识和历史交互信息。
- 环境:Agent所处的外部环境,Agent通过行动影响环境,同时也通过感知模块接收环境的反馈。
在这个架构中,记忆模块扮演着至关重要的角色。它不仅是Agent的"知识库",更是Agent实现持续学习和个性化交互的基础。
2.2 记忆系统的分类
根据不同的分类标准,AI Agent的记忆系统可以分为多种类型。按照记忆的持续时间,我们可以将其分为:
- 瞬时记忆:存储刚刚感知到的信息,持续时间很短,通常只有几秒钟。
- 短期记忆:存储当前任务相关的信息,持续时间从几分钟到几小时不等。
- 长期记忆:存储Agent的知识和经验,持续时间可以很长,甚至是永久的。
按照记忆的内容类型,我们又可以将其分为:
- 情景记忆:存储Agent的个人经历和特定事件。
- 语义记忆:存储关于世界的一般知识和事实。
- 程序记忆:存储如何执行任务的技能和程序。
在AI Agent的实际设计中,我们通常会结合这些分类,构建一个多层次、多类型的记忆系统。
2.3 记忆系统的核心挑战
设计一个有效的AI Agent记忆系统,需要面对以下几个核心挑战:
- 信息存储:如何高效地存储大量的信息?
- 信息检索:如何在需要时快速准确地找到相关信息?
- 信息组织:如何对信息进行有效的组织和关联?
- 信息更新:如何随着时间的推移更新和演化记忆?
- 信息遗忘:如何决定哪些信息应该被保留,哪些应该被遗忘?
在接下来的章节中,我们将看到不同的记忆技术是如何应对这些挑战的。
3. 第一代记忆系统:向量检索
3.1 向量检索的基本原理
向量检索,也称为语义检索,是近年来随着深度学习和自然语言处理技术的发展而兴起的一种记忆技术。它的核心思想是将文本、图像等各种形式的信息转换为高维空间中的向量(也称为嵌入),然后通过计算向量之间的相似度来进行信息检索。
向量检索的基本流程如下:
3.2 向量嵌入技术
向量检索的第一步是将信息转换为向量,这个过程称为嵌入(Embedding)。早期的嵌入技术主要基于统计方法,如TF-IDF和LSA。随着深度学习的发展,基于神经网络的嵌入技术逐渐成为主流,如Word2Vec、GloVe、BERT等。
在AI Agent的记忆系统中,我们通常使用像OpenAI的text-embedding-ada-002、Sentence-BERT或Cohere这样的嵌入模型来生成高质量的文本向量。这些模型能够将文本转换为高维向量(通常是几百到几千维),并且能够捕捉文本的语义信息,使得语义相似的文本在向量空间中距离更近。
让我们通过一个简单的Python示例来展示如何使用Sentence-BERT生成文本向量:
from sentence_transformers import SentenceTransformer
import numpy as np
# 加载预训练的Sentence-BERT模型
model = SentenceTransformer('all-MiniLM-L6-v2')
# 定义一些示例文本
texts = [
"人工智能正在改变我们的生活",
"机器学习是人工智能的一个分支",
"自然语言处理使计算机能够理解人类语言",
"今天的天气真不错",
"我喜欢在周末去公园散步"
]
# 生成文本向量
embeddings = model.encode(texts)
# 打印向量的维度
print(f"向量维度: {embeddings.shape[1]}")
# 计算文本之间的相似度
def cosine_similarity(v1, v2):
return np.dot(v1, v2) / (np.linalg.norm(v1) * np.linalg.norm(v2))
# 计算第一个文本与其他文本的相似度
for i in range(1, len(texts)):
sim = cosine_similarity(embeddings[0], embeddings[i])
print(f'"{texts[0]}" 与 "{texts[i]}" 的相似度: {sim:.4f}')
这个示例首先加载了一个预训练的Sentence-BERT模型,然后将几个示例文本转换为向量,最后计算了第一个文本与其他文本之间的余弦相似度。运行这个示例,你会发现前三个关于AI的文本之间的相似度较高,而后两个关于日常生活的文本与前三个文本的相似度较低。
3.3 向量数据库
有了文本向量,下一步就是如何高效地存储和检索这些向量。这就需要使用向量数据库(Vector Database)。向量数据库是一种专门用于存储和检索高维向量的数据库,它使用近似最近邻搜索(Approximate Nearest Neighbor Search, ANN)算法来加速向量检索。
常见的向量数据库包括:
- FAISS:Facebook AI Research开发的向量检索库,性能优异。
- Pinecone:托管的向量数据库服务,易于使用。
- Chroma:开源的向量数据库,专为AI应用设计。
- Weaviate:开源的向量搜索引擎,支持多种数据类型。
- Milvus:开源的向量数据库,功能丰富,可扩展性强。
让我们通过一个示例来展示如何使用Chroma向量数据库来存储和检索向量:
import chromadb
from sentence_transformers import SentenceTransformer
# 初始化Chroma客户端
client = chromadb.Client()
# 创建一个集合
collection = client.create_collection(name="ai_memory")
# 加载嵌入模型
model = SentenceTransformer('all-MiniLM-L6-v2')
# 定义一些记忆条目
memories = [
{"id": "1", "text": "用户小明喜欢吃川菜", "metadata": {"category": "个人偏好", "user": "小明"}},
{"id": "2", "text": "用户小明上周去了成都旅游", "metadata": {"category": "活动记录", "user": "小明"}},
{"id": "3", "text": "用户小红对人工智能很感兴趣", "metadata": {"category": "个人偏好", "user": "小红"}},
{"id": "4", "text": "用户小红正在学习Python编程", "metadata": {"category": "活动记录", "user": "小红"}},
{"id": "5", "text": "川菜以麻辣著称,代表菜有麻婆豆腐、宫保鸡丁等", "metadata": {"category": "知识", "topic": "美食"}}
]
# 生成嵌入向量
texts = [memory["text"] for memory in memories]
embeddings = model.encode(texts).tolist()
ids = [memory["id"] for memory in memories]
metadatas = [memory["metadata"] for memory in memories]
# 添加到集合中
collection.add(
embeddings=embeddings,
documents=texts,
metadatas=metadatas,
ids=ids
)
# 定义一个查询
query = "给我推荐一些适合小明的食物"
query_embedding = model.encode([query]).tolist()
# 执行查询
results = collection.query(
query_embeddings=query_embedding,
n_results=2,
where={"user": "小明"}
)
# 打印结果
print("查询结果:")
for i, (text, metadata, distance) in enumerate(zip(results['documents'][0], results['metadatas'][0], results['distances'][0])):
print(f"{i+1}. {text}")
print(f" 元数据: {metadata}")
print(f" 距离: {distance:.4f}\n")
这个示例展示了如何使用Chroma向量数据库来构建一个简单的记忆系统。我们首先将一些记忆条目存储到数据库中,然后通过语义查询来检索相关的记忆。注意,我们还使用了元数据过滤功能,只检索与用户"小明"相关的记忆。
3.4 向量检索的优缺点
向量检索作为第一代AI Agent记忆系统,具有以下优点:
- 语义理解:能够捕捉文本的语义信息,实现语义级别的检索,而不仅仅是关键词匹配。
- 灵活性:可以处理各种类型的文本信息,不需要预先定义严格的 schema。
- 易于实现:有很多现成的工具和库可以使用,开发门槛较低。
- 可扩展性:向量数据库通常具有良好的可扩展性,可以处理大量的数据。
然而,向量检索也存在一些明显的缺点:
- 缺乏显式结构:向量是一种隐式的表示方式,缺乏显式的结构和关系,难以进行复杂的逻辑推理。
- 可解释性差:向量检索的结果通常难以解释,为什么某个结果被检索出来往往不直观。
- 更新困难:当知识发生变化时,更新向量数据库中的信息可能比较困难,尤其是当信息之间存在复杂的依赖关系时。
- 无法处理复杂查询:向量检索适合处理简单的语义相似性查询,但对于需要复杂逻辑推理的查询往往无能为力。
正是由于这些缺点,研究者们开始探索更加先进的记忆技术,其中知识图谱就是一个重要的方向。
4. 第二代记忆系统:知识图谱
4.1 知识图谱的基本概念
知识图谱(Knowledge Graph)是一种用图结构来表示知识的方法,它由节点(Entities)和边(Relationships)组成。节点代表现实世界中的实体,如人、地点、事物等;边代表实体之间的关系,如"是"、“属于”、"住在"等。
知识图谱的基本结构可以表示为(主体,谓词,客体)三元组,例如:
- (小明,喜欢,川菜)
- (成都,是,四川的省会)
- (川菜,属于,中国八大菜系)
这种表示方式更加接近人类对知识的组织方式,具有很强的表达能力和可解释性。
4.2 知识图谱的构建
构建一个知识图谱通常包括以下几个步骤:
- 知识抽取:从各种数据源(如文本、数据库、网页等)中抽取实体、关系和属性。
- 知识融合:将不同来源的知识进行整合,消除实体和关系的歧义。
- 知识存储:将构建好的知识图谱存储到图数据库中。
- 知识推理:基于已有的知识,推理出新的知识。
让我们通过一个示例来展示如何使用Python和RDFlib库来构建一个简单的知识图谱:
from rdflib import Graph, Namespace, URIRef, Literal, RDF, RDFS
# 创建一个图
g = Graph()
# 定义命名空间
ex = Namespace("http://example.com/")
food = Namespace("http://example.com/food/")
person = Namespace("http://example.com/person/")
place = Namespace("http://example.com/place/")
# 定义一些实体
xiaoming = person["xiaoming"]
sichuan_cuisine = food["sichuan_cuisine"]
chengdu = place["chengdu"]
sichuan = place["sichuan"]
mapo_tofu = food["mapo_tofu"]
kongpao_chicken = food["kongpao_chicken"]
# 定义一些属性
likes = ex["likes"]
located_in = ex["located_in"]
capital_of = ex["capital_of"]
type_of = ex["type_of"]
representative_dish = ex["representative_dish"]
# 添加三元组到图中
g.add((xiaoming, likes, sichuan_cuisine))
g.add((xiaoming, likes, mapo_tofu))
g.add((chengdu, capital_of, sichuan))
g.add((sichuan_cuisine, type_of, food["chinese_cuisine"]))
g.add((mapo_tofu, representative_dish, sichuan_cuisine))
g.add((kongpao_chicken, representative_dish, sichuan_cuisine))
g.add((sichuan_cuisine, RDFS.label, Literal("川菜")))
g.add((xiaoming, RDFS.label, Literal("小明")))
g.add((chengdu, RDFS.label, Literal("成都")))
g.add((mapo_tofu, RDFS.label, Literal("麻婆豆腐")))
# 执行一个简单的查询:找出小明喜欢的食物
print("小明喜欢的食物:")
query = """
PREFIX ex: <http://example.com/>
PREFIX rdfs: <http://www.w3.org/2000/01/rdf-schema#>
SELECT ?food ?foodLabel
WHERE {
ex:person/xiaoming ex:likes ?food .
?food rdfs:label ?foodLabel .
}
"""
for row in g.query(query):
print(f"- {row.foodLabel}")
# 执行另一个查询:找出川菜的代表菜
print("\n川菜的代表菜:")
query = """
PREFIX ex: <http://example.com/>
PREFIX rdfs: <http://www.w3.org/2000/01/rdf-schema#>
SELECT ?dish ?dishLabel
WHERE {
?dish ex:representative_dish ex:food/sichuan_cuisine .
?dish rdfs:label ?dishLabel .
}
"""
for row in g.query(query):
print(f"- {row.dishLabel}")
这个示例使用RDFlib库构建了一个简单的知识图谱,并执行了两个SPARQL查询。SPARQL是一种用于查询RDF数据的语言,类似于关系数据库中的SQL。
4.3 图数据库
与向量数据库类似,知识图谱也需要专门的数据库来存储和查询,这就是图数据库(Graph Database)。图数据库是一种专门用于存储和处理图结构数据的数据库,它使用图模型来表示数据,并提供了高效的图遍历和查询功能。
常见的图数据库包括:
- Neo4j:最流行的图数据库,使用Cypher查询语言。
- Amazon Neptune:AWS提供的托管图数据库服务。
- JanusGraph:开源的分布式图数据库。
- ArangoDB:多模型数据库,同时支持图、文档和键值模型。
- Virtuoso:支持RDF和关系数据的混合数据库。
让我们通过一个示例来展示如何使用Neo4j图数据库来存储和查询知识图谱:
from neo4j import GraphDatabase
# 连接到Neo4j数据库
uri = "bolt://localhost:7687"
username = "neo4j"
password = "password" # 请替换为你的密码
driver = GraphDatabase.driver(uri, auth=(username, password))
# 创建一个会话
with driver.session() as session:
# 清空数据库(仅用于演示)
session.run("MATCH (n) DETACH DELETE n")
# 创建节点和关系
session.run("""
CREATE (xiaoming:Person {name: '小明'})
CREATE (sichuan_cuisine:Cuisine {name: '川菜'})
CREATE (chengdu:City {name: '成都'})
CREATE (sichuan:Province {name: '四川'})
CREATE (mapo_tofu:Dish {name: '麻婆豆腐'})
CREATE (kongpao_chicken:Dish {name: '宫保鸡丁'})
CREATE (chinese_cuisine:Cuisine {name: '中国菜'})
CREATE (xiaoming)-[:LIKES]->(sichuan_cuisine)
CREATE (xiaoming)-[:LIKES]->(mapo_tofu)
CREATE (chengdu)-[:CAPITAL_OF]->(sichuan)
CREATE (sichuan_cuisine)-[:TYPE_OF]->(chinese_cuisine)
CREATE (mapo_tofu)-[:REPRESENTATIVE_DISH_OF]->(sichuan_cuisine)
CREATE (kongpao_chicken)-[:REPRESENTATIVE_DISH_OF]->(sichuan_cuisine)
""")
# 查询小明喜欢的食物
print("小明喜欢的食物:")
result = session.run("""
MATCH (xiaoming:Person {name: '小明'})-[:LIKES]->(food)
RETURN food.name AS food_name
""")
for record in result:
print(f"- {record['food_name']}")
# 查询川菜的代表菜
print("\n川菜的代表菜:")
result = session.run("""
MATCH (dish:Dish)-[:REPRESENTATIVE_DISH_OF]->(sichuan_cuisine:Cuisine {name: '川菜'})
RETURN dish.name AS dish_name
""")
for record in result:
print(f"- {record['dish_name']}")
# 一个更复杂的查询:推荐给小明可能喜欢的其他川菜
print("\n可能适合小明的其他川菜:")
result = session.run("""
MATCH (xiaoming:Person {name: '小明'})-[:LIKES]->(:Cuisine)<-[:REPRESENTATIVE_DISH_OF]-(dish:Dish)
WHERE NOT (xiaoming)-[:LIKES]->(dish)
RETURN dish.name AS dish_name
""")
for record in result:
print(f"- {record['dish_name']}")
# 关闭驱动
driver.close()
这个示例展示了如何使用Neo4j图数据库来构建和查询知识图谱。我们首先创建了一些节点和关系,然后执行了几个查询,包括一个更复杂的推荐查询。注意,这个示例需要你先安装并启动Neo4j数据库。
4.4 知识图谱的优缺点
知识图谱作为第二代AI Agent记忆系统,具有以下优点:
- 显式结构:知识图谱具有显式的结构,能够清晰地表示实体之间的关系,便于理解和解释。
- 强大的推理能力:基于图结构,知识图谱可以进行复杂的逻辑推理,发现隐含的知识。
- 可解释性强:知识图谱的查询结果通常易于解释,可以清楚地展示结果是如何得到的。
- 灵活的查询:支持复杂的图查询,可以回答各种类型的问题。
- 易于更新:可以方便地添加、删除和修改实体和关系,知识更新相对容易。
然而,知识图谱也存在一些缺点:
- 构建成本高:构建一个高质量的知识图谱需要大量的人力和物力,尤其是知识抽取和融合阶段。
- ** Schema 依赖**:知识图谱通常需要预先定义严格的 schema,不够灵活。
- 处理非结构化数据困难:知识图谱适合处理结构化数据,但对于非结构化数据(如自然语言文本)的处理相对困难。
- 可扩展性挑战:虽然图数据库在不断发展,但处理超大规模的知识图谱仍然面临一些技术挑战。
5. 混合记忆系统:结合向量检索和知识图谱
5.1 为什么需要混合记忆系统
从前面的分析可以看出,向量检索和知识图谱各有优缺点。向量检索适合处理非结构化数据,能够捕捉语义信息,但缺乏显式结构和推理能力;知识图谱具有显式结构和强大的推理能力,但构建成本高,处理非结构化数据困难。
那么,是否可以将这两种技术结合起来,构建一个更加强大的混合记忆系统呢?答案是肯定的。混合记忆系统可以充分发挥向量检索和知识图谱的优势,同时弥补它们的不足。
在混合记忆系统中,我们通常会:
- 使用向量检索来处理非结构化数据,实现语义级别的检索。
- 使用知识图谱来存储结构化知识,实现复杂的逻辑推理。
- 在两者之间建立桥梁,实现信息的流动和互补。
5.2 混合记忆系统的架构设计
一个典型的混合记忆系统架构如下:
在这个架构中,查询分析器负责分析用户的查询,确定使用哪种检索方式。对于需要语义理解的查询,使用向量检索;对于需要结构化推理的查询,使用图查询;对于复杂的查询,可能需要同时使用两种检索方式。结果融合器负责将两种检索方式的结果进行融合,生成最终的答案。
在知识更新方面,知识抽取模块从各种数据源中抽取知识,知识融合模块对知识进行整合,然后分别存储到图数据库和向量数据库中。向量化模块负责将结构化知识转换为向量,以便进行语义检索。
5.3 混合记忆系统的实现示例
让我们通过一个示例来展示如何实现一个简单的混合记忆系统。我们将结合使用Chroma向量数据库和Neo4j图数据库:
import chromadb
from sentence_transformers import SentenceTransformer
from neo4j import GraphDatabase
from typing import List, Dict, Any
class HybridMemorySystem:
def __init__(self, neo4j_uri: str, neo4j_user: str, neo4j_password: str):
# 初始化向量数据库
self.chroma_client = chromadb.Client()
self.vector_collection = self.chroma_client.create_collection(name="hybrid_memory")
# 初始化图数据库
self.neo4j_driver = GraphDatabase.driver(neo4j_uri, auth=(neo4j_user, neo4j_password))
# 初始化嵌入模型
self.embedder = SentenceTransformer('all-MiniLM-L6-v2')
# 初始化ID计数器
self.next_id = 1
def add_text(self, text: str, metadata: Dict[str, Any] = None) -> str:
"""添加文本到记忆系统"""
# 生成ID
doc_id = str(self.next_id)
self.next_id += 1
# 生成向量
embedding = self.embedder.encode([text])[0].tolist()
# 添加到向量数据库
self.vector_collection.add(
embeddings=[embedding],
documents=[text],
metadatas=[metadata or {}],
ids=[doc_id]
)
return doc_id
def add_graph_data(self, nodes: List[Dict], edges: List[Dict]) -> None:
"""添加图数据到记忆系统"""
with self.neo4j_driver.session() as session:
# 创建节点
for node in nodes:
labels = ":".join(node.get('labels', ['Node']))
properties = node.get('properties', {})
prop_str = ", ".join([f"{k}: ${k}" for k in properties.keys()])
query = f"CREATE (n:{labels} {{{prop_str}}})"
session.run(query, **properties)
# 创建边
for edge in edges:
source_label = edge.get('source_label', 'Node')
source_prop = edge.get('source_property', 'name')
source_value = edge['source_value']
target_label = edge.get('target_label', 'Node')
target_prop = edge.get('target_property', 'name')
target_value = edge['target_value']
rel_type = edge['relationship_type']
rel_props = edge.get('properties', {})
prop_str = ", ".join([f"{k}: ${k}" for k in rel_props.keys()])
if prop_str:
prop_str = f" {{{prop_str}}}"
query = f"""
MATCH (a:{source_label} {{{source_prop}: $source_value}})
MATCH (b:{target_label} {{{target_prop}: $target_value}})
CREATE (a)-[:{rel_type}{prop_str}]->(b)
"""
params = {
'source_value': source_value,
'target_value': target_value,
**rel_props
}
session.run(query, **params)
def hybrid_query(self, query_text: str, top_k: int = 3) -> Dict[str, Any]:
"""执行混合查询"""
# 向量检索
query_embedding = self.embedder.encode([query_text])[0].tolist()
vector_results = self.vector_collection.query(
query_embeddings=[query_embedding],
n_results=top_k
)
# 简单的图查询(实际应用中可能需要更复杂的查询生成)
graph_results = []
with self.neo4j_driver.session() as session:
# 这里我们做一个简单的查询,实际应用中可能需要查询理解和生成
try:
result = session.run("""
MATCH (a)-[r]->(b)
RETURN a, r, b
LIMIT 5
""")
for record in result:
graph_results.append({
'source': dict(record['a'].items()),
'relationship': record['r'].type,
'target': dict(record['b'].items())
})
except Exception as e:
print(f"图查询错误: {e}")
# 结果融合(这里只是简单合并,实际应用中可能需要更复杂的融合策略)
return {
'vector_results': vector_results,
'graph_results': graph_results
}
def close(self):
"""关闭资源"""
self.neo4j_driver.close()
# 使用示例
if __name__ == "__main__":
# 初始化混合记忆系统
memory_system = HybridMemorySystem(
neo4j_uri="bolt://localhost:7687",
neo4j_user="neo4j",
neo4j_password="password" # 请替换为你的密码
)
try:
# 添加一些文本记忆
memory_system.add_text(
"用户小明喜欢吃辣的食物,尤其是川菜",
{"category": "用户偏好", "user": "小明"}
)
memory_system.add_text(
"成都有很多著名的川菜馆,是美食爱好者的天堂",
{"category": "知识", "topic": "旅游"}
)
memory_system.add_text(
"麻婆豆腐是一道经典的川菜,以其麻辣鲜香的口味著称",
{"category": "知识", "topic": "美食"}
)
# 添加一些图数据
nodes = [
{'labels': ['Person'], 'properties': {'name': '小明', 'age': 25}},
{'labels': ['Cuisine'], 'properties': {'name': '川菜', 'style': '麻辣'}},
{'labels': ['Dish'], 'properties': {'name': '麻婆豆腐', 'spiciness': 'high'}},
{'labels': ['City'], 'properties': {'name': '成都', 'province': '四川'}}
]
edges = [
{
'source_label': 'Person', 'source_property': 'name', 'source_value': '小明',
'target_label': 'Cuisine', 'target_property': 'name', 'target_value': '川菜',
'relationship_type': 'LIKES'
},
{
'source_label': 'Dish', 'source_property': 'name', 'source_value': '麻婆豆腐',
'target_label': 'Cuisine', 'target_property': 'name', 'target_value': '川菜',
'relationship_type': 'TYPE_OF'
},
{
'source_label': 'City', 'source_property': 'name', 'source_value': '成都',
'target_label': 'Cuisine', 'target_property': 'name', 'target_value': '川菜',
'relationship_type': 'KNOWN_FOR'
}
]
memory_system.add_graph_data(nodes, edges)
# 执行混合查询
results = memory_system.hybrid_query("给小明推荐一些食物")
print("混合查询结果:")
print("\n向量检索结果:")
for i, (doc, meta) in enumerate(zip(results['vector_results']['documents'][0],
results['vector_results']['metadatas'][0])):
print(f"{i+1}. {doc}")
print(f" 元数据: {meta}\n")
print("图检索结果:")
for i, result in enumerate(results['graph_results']):
print(f"{i+1}. {result['source'].get('name', 'Unknown')} "
f"-[{result['relationship']}]-> "
f"{result['target'].get('name', 'Unknown')}")
finally:
# 关闭资源
memory_system.close()
这个示例实现了一个简单的混合记忆系统,它结合了向量检索和知识图谱。我们可以向系统中添加非结构化的文本记忆和结构化的图数据,然后执行混合查询来获取相关信息。
5.4 混合记忆系统的优势
混合记忆系统结合了向量检索和知识图谱的优势,具有以下特点:
- 能力互补:向量检索擅长处理非结构化数据和语义理解,知识图谱擅长处理结构化数据和逻辑推理,两者可以相互补充。
- 灵活应对多种查询:可以根据查询的类型选择合适的检索方式,或者同时使用两种方式。
- 更好的知识组织:既可以保留非结构化数据的丰富信息,又可以利用结构化知识的清晰关系。
- 更强的可解释性:可以结合向量检索的语义相关性和知识图谱的显式关系,提供更可解释的结果。
当然,混合记忆系统也面临一些挑战,如如何设计有效的查询分析器、如何实现高效的结果融合、如何保持两种记忆系统的一致性等。这些都是需要进一步研究和解决的问题。
6. 记忆演化:从简单存储到智能组织
6.1 记忆演化的概念
到目前为止,我们讨论的主要是如何存储和检索记忆,但一个真正智能的记忆系统不仅需要能够存储和检索信息,还需要能够随着时间的推移不断演化和优化。这就是记忆演化的概念。
记忆演化包括以下几个方面:
- 知识更新:随着新信息的获取,不断更新已有的知识。
- 知识整合:将新获取的知识与已有的知识进行整合,形成更加完整的知识体系。
- 知识抽象:从具体的经验中抽象出一般的规律和模式。
- 知识遗忘:移除不再有用或过时的知识,保持记忆系统的高效性。
- 知识重组:根据新的理解,重新组织已有的知识结构。
6.2 记忆演化的机制
实现记忆演化需要设计一系列的机制,以下是一些常见的记忆演化机制:
- 重要性评估:评估每条记忆的重要性,重要的记忆得到加强,不重要的记忆逐渐被遗忘。
- 关联强化:经常一起被访问的记忆之间的关联会得到加强。
- 时间衰减:记忆的重要性会随着时间的推移而衰减,除非被重新激活。
- 抽象概括:从多个类似的记忆中抽象出一般的概念或模式。
- 冲突解决:当新获取的知识与已有知识发生冲突时,需要解决这种冲突。
让我们通过一个示例来展示如何实现一个简单的记忆演化系统:
import chromadb
from sentence_transformers import SentenceTransformer
import numpy as np
from datetime import datetime, timedelta
from typing import List, Dict, Any
class EvolvingMemorySystem:
def __init__(self):
# 初始化向量数据库
self.chroma_client = chromadb.Client()
self.vector_collection = self.chroma_client.create_collection(name="evolving_memory")
# 初始化嵌入模型
self.embedder = SentenceTransformer('all-MiniLM-L6-v2')
# 记忆存储(用于存储额外的元数据和演化信息)
self.memory_metadata = {}
# 初始化ID计数器
self.next_id = 1
def add_memory(self, text: str, metadata: Dict[str, Any] = None) -> str:
"""添加记忆"""
# 生成ID
mem_id = str(self.next_id)
self.next_id += 1
# 生成向量
embedding = self.embedder.encode([text])[0].tolist()
# 当前时间
now = datetime.now().isoformat()
# 构建完整的元数据
full_metadata = {
'created_at': now,
'last_accessed': now,
'access_count': 0,
'importance': 1.0, # 初始重要性
**(metadata or {})
}
# 添加到向量数据库
self.vector_collection.add(
embeddings=[embedding],
documents=[text],
metadatas=[full_metadata],
ids=[mem_id]
)
# 保存到元数据存储
self.memory_metadata[mem_id] = {
'text': text,
'metadata': full_metadata,
'embedding': embedding,
'relations': [] # 与其他记忆的关系
}
return mem_id
def retrieve_memories(self, query_text: str, top_k: int = 5) -> List[Dict[str, Any]]:
"""检索记忆"""
# 生成查询向量
query_embedding = self.embedder.encode([query_text])[0].tolist()
# 执行查询
results = self.vector_collection.query(
query_embeddings=[query_embedding],
n_results=top_k
)
# 更新记忆的访问信息
now = datetime.now().isoformat()
retrieved_memories = []
for i, (mem_id, doc, meta) in enumerate(zip(
results['ids'][0],
results['documents'][0],
results['metadatas'][0]
)):
# 更新访问信息
meta['last_accessed'] = now
meta['access_count'] += 1
# 计算新的重要性(简化版:基于访问次数和时间衰减)
created_time = datetime.fromisoformat(meta['created_at'])
days_since_creation = (datetime.now() - created_time).days
time_decay = max(0.1, 1.0 - days_since_creation * 0.01) # 每天衰减1%,最低0.1
meta['importance'] = (1.0 + meta['access_count'] * 0.1) * time_decay
# 更新向量数据库中的元数据
self.vector_collection.update(
ids=[mem_id],
metadatas=[meta]
)
# 更新本地元数据存储
if mem_id in self.memory_metadata:
self.memory_metadata[mem_id]['metadata'] = meta
# 构建结果
retrieved_memories.append({
'id': mem_id,
'text': doc,
'metadata': meta,
'relevance_score': 1.0 - results['distances'][0][i] # 假设距离越小越相关
})
# 更新检索到的记忆之间的关系(简化版:认为同时被检索到的记忆是相关的)
for i in range(len(retrieved_memories)):
for j in range(i+1, len(retrieved_memories)):
id1 = retrieved_memories[i]['id']
id2 = retrieved_memories[j]['id']
# 更新双向关系
self._update_relation(id1, id2)
self._update_relation(id2, id1)
return retrieved_memories
def _update_relation(self, id1: str, id2: str):
"""更新两个记忆之间的关系"""
if id1 in self.memory_metadata:
# 查找是否已经存在关系
existing_relation = next(
(r for r in self.memory_metadata[id1]['relations'] if r['id'] == id2),
None
)
if existing_relation:
# 加强现有关系
existing_relation['strength'] += 0.1
existing_relation['last_strengthened'] = datetime.now().isoformat()
else:
# 创建新关系
self.memory_metadata[id1]['relations'].append({
'id': id2,
'strength': 0.5,
'created_at': datetime.now().isoformat(),
'last_strengthened': datetime.now().isoformat()
})
def forget_memories(self, threshold: float = 0.2):
"""遗忘重要性低于阈值的记忆"""
# 找出需要遗忘的记忆
to_forget = []
for mem_id, mem_data in self.memory_metadata.items():
if mem_data['metadata']['importance'] < threshold:
to_forget.append(mem_id)
# 从向量数据库中删除
if to_forget:
self.vector_collection.delete(ids=to_forget)
# 从元数据存储中删除,并清理相关关系
for mem_id in to_forget:
if mem_id in self.memory_metadata:
del self.memory_metadata[mem_id]
# 清理其他记忆中与此记忆的关系
for other_id, other_data in self.memory_metadata.items():
other_data['relations'] = [
r for r in other_data['relations'] if r['id'] != mem_id
]
return to_forget
def abstract_knowledge(self, cluster_threshold: float = 0.8) -> List[str]:
"""从现有记忆中抽象知识(简化版:基于聚类)"""
if len(self.memory_metadata) < 3:
return [] # 记忆太少,无法抽象
# 获取所有记忆的向量
ids = []
embeddings = []
texts = []
for mem_id, mem_data in self.memory_metadata.items():
ids.append(mem_id)
embeddings.append(mem_data['embedding'])
texts.append(mem_data['text'])
# 简单聚类(这里使用相似度阈值而不是真正的聚类算法)
clusters = []
used = set()
for i in range(len(ids)):
if i in used:
continue
cluster = [i]
used.add(i)
for j in range(i+1, len(ids)):
if j in used:
continue
# 计算相似度
sim = np.dot(embeddings[i], embeddings[j]) / (
np.linalg.norm(embeddings[i]) * np.linalg.norm(embeddings[j])
)
if sim > cluster_threshold:
cluster.append(j)
used.add(j)
if len(cluster) >= 3: # 只有当簇足够大时才考虑
clusters.append(cluster)
# 为每个簇创建抽象知识(简化版:只是标记相关记忆,实际应用中可能需要生成抽象文本)
abstract_ids = []
for i, cluster in enumerate(clusters):
cluster_texts = [texts[j] for j in cluster]
abstract_text = f"抽象知识 {i+1}: 关于 {', '.join([t[:20] + '...' if len(t) > 20 else t for t in cluster_texts[:3]])} 等相关主题"
# 标记相关记忆
for j in cluster:
mem_id = ids[j]
if 'related_abstracts' not in self.memory_metadata[mem_id]['metadata']:
self.memory_metadata[mem_id]['metadata']['related_abstracts'] = []
self.memory_metadata[mem_id]['metadata']['related_abstracts'].append(f"abs_{i}")
# 添加抽象知识作为新记忆
abstract_id = self.add_memory(
abstract_text,
{
'type': 'abstract',
'cluster_id': f"abs_{i}",
'related_memories': [ids[j] for j in cluster]
}
)
abstract_ids.append(abstract_id)
return abstract_ids
def get_memory_stats(self) -> Dict[str, Any]:
"""获取记忆系统的统计信息"""
total_memories = len(self.memory_metadata)
if total_memories == 0:
return {'total_memories': 0}
# 计算各种统计指标
access_counts = [m['metadata']['access_count'] for m in self.memory_metadata.values()]
importances = [m['metadata']['importance'] for m in self.memory_metadata.values()]
relation_counts = [len(m['relations']) for m in self.memory_metadata.values()]
return {
'total_memories': total_memories,
'avg_access_count': sum(access_counts) / total_memories,
'max_access_count': max(access_counts),
'avg_importance': sum(importances) / total_memories,
'min_importance': min(importances),
'max_importance': max(importances),
'avg_relations': sum(relation_counts) / total_memories,
'max_relations': max(relation_counts)
}
# 使用示例
if __name__ == "__main__":
# 初始化演化记忆系统
memory_system = EvolvingMemorySystem()
try:
# 添加一些
更多推荐
所有评论(0)