使用GraphRAG+LangChain+Ollama：LLaMa 3.1跑通知识图谱与向量数据库集成（Neo4j）

关注

VIP免费原创最新推荐文章于 2026-07-19 10:07:40 发布 2.8k 阅读 AI 写同款· GEO 优化 ›

【Knowledge Graph】第四章基于本地部署的大语言模型OLlama&Neo4j图数据库的知识图谱搭建下载Ollama安装Ollama到本地安装完毕，打开命令行输入`ollama --help`检查是否安装成功。选择合适的模型，并使用命令行指令`ollama run llama3.2:3b`进行本地安装（由于设备受限，我选择了参数大小为3b的llama3.2模型，本地存储占用2GB.）安装完成后即可在本地进行对话对话时只要输入运行相应模型的指令“ollama run 模型名称”即可。阅读详情

我将向你展示如何使用 LLama 3.1（一个本地运行的模型）来执行GraphRAG操作，总共就50号代码。。。

首先，什么是GraphRAG？GraphRAG是一种通过考虑实体和文档之间的关系来执行检索增强生成的方式，关键概念是节点和关系。

▲ 知识图谱与向量数据库集成

知识图谱与向量数据库集成是GraphRAG 架构之一：这种方法利用知识图谱和向量数据库来收集相关信息。知识图谱的构建方式可以捕获向量块之间的关系，包括文档层次结构。知识图谱在从向量搜索中检索到的块附近提供结构化实体信息，从而通过有价值的附加上下文丰富提示。这个丰富的提示被输入到 LLM 中进行处理，然后 LLM 生成响应。最后，生成的答案返回给用户。此架构适用于客户支持、语义搜索和个性化推荐等用例。

节点代表从数据块中提取的实体或概念，例如人、组织、事件或地点。

知识图谱中，每个节点都包含属性和特性，这些属性为实体提供了更多上下文信息。

然后我们定义节点之间的连接关系，这些连接可以包括各种类型的关联，例如层次结构（如父子关系）、时间顺序（如前后关系）或因果关系（因果关系）。

关系还具有描述连接性质和强度的属性。当你有很多文档时，你会得到一个很好的图来描述所有文档之间的关系。

让我们看一个非常简单的例子，在我们的数据集中，节点可以代表像苹果公司和蒂姆·库克这样的实体，而关系则可以描述蒂姆·库克是苹果公司的 CEO。

这种方法非常强大，但一个巨大的缺点是它**计算成本很高，因为你必须从每个文档中提取实体，并使用 LLM 计算关系图。**这就是为什么使用像 LLaMa 3.1 这样本地运行的模型来采用这种方法非常棒。

保姆级教程开始

在本文中，我们将结合使用LangChain、LLama 和 Ollama ，以及 Neo4j 作为图数据库。我们将创建一个关于一个****拥有多家餐厅的大型意大利家庭的信息图，所以这里有很多关系需要建模。

先利用Ollama拉取llama3.1 8b模型：

所有代码的链接我放在文末。。。

打开代码文件，来到VS Code 中，你可以在左边看到我们将使用的多个文件。

配置运行Neo4j数据库

在进入代码之前，我们将设置 Neo4j。我为你创建了一个 Docker Compose 文件。所以我们将使用 neo4j 文件夹，里面有一个 jar 文件，这是我们创建图所需的插件。

要创建我们的数据库，只需运行 docker compose up：

这将设置所有内容，并且可以直接使用。可能需要几秒钟，之后你会看到数据库正在运行。

安装依赖

然后我们可以进入 Jupyter Notebook，首先安装所需的包：

我们需要安装 LangChain、OpenAI 的 LangChain、Ollama、LangChain Experimental，因为图解决方案目前在 LangChain 实验包中。

我们还需要安装 Neo4j，以及用于在 Jupyter Notebook 中显示图的 py2neo 和 ipywidgets。

%pip install --upgrade --quiet  langchain langchain-community langchain-openai langchain-ollama langchain-experimental neo4j tiktoken yfiles_jupyter_graphs python-dotenv

导入类

安装完这些包后，我们可以导入所需的类。我们将从 LangChain 中导入多个类，例如 Runnable Pass Through、Chat Prompt Template、Output Parser 等。

我们还导入 Neo4j 的图类，这在 LangChain Community 包的 Graphs 模块中。我们还导入 Chat OpenAI 作为 Ollama 的后备模型。

在 LangChain Experimental 包中，我们有一个 Graph Transformer 模块，我们将从那里导入 LLM Graph Transformer，它利用复杂的提示将数据转换为可以存储在图数据库中的形式。

我们还将导入 Neo4j 的图数据库，不仅作为图数据库使用，还可以作为普通的向量数据库使用。

from langchain_core.runnables import  RunnablePassthrough``from langchain_core.prompts import ChatPromptTemplate``from langchain_core.pydantic_v1 import BaseModel, Field``from langchain_core.output_parsers import StrOutputParser``import os``from langchain_community.graphs import Neo4jGraph``from langchain.text_splitter import RecursiveCharacterTextSplitter``from langchain_openai import ChatOpenAI``from langchain_community.chat_models import ChatOllama``from langchain_experimental.graph_transformers import LLMGraphTransformer``from neo4j import GraphDatabase``from yfiles_jupyter_graphs import GraphWidget``from langchain_community.vectorstores import Neo4jVector``from langchain_openai import OpenAIEmbeddings``from langchain_community.document_loaders import TextLoader``from langchain_communi