GraphRAG变种:HippoRAG进化到HippoRAG2.0,提升多跳复杂推理性能

llm检索增强创新 llm检索增强创新:HippoRAG 2 海马体记忆索引、KBLaM-知识库增强语言模型、InfiniRetri无限检索 阅读详情

HippoRAG2生成的图更为密集,提高了信息连接性和覆盖范围。并且这种变种的GraphRAG在需要多跳推理和上下文综合的任务中表现优异。

imgimg

下面我们来看一看HippoRAG2如何通过增加知识图谱等结构来增强向量嵌入,以解决一些差距,即理解和关联性。供参考。

方法

HippoRAGHippoRAG 模拟了大脑皮层和海马体在人类记忆中的不同作用。使用 LLM 将语料库转换为知识图谱 (KG)作为人工海马索引。给定一个新的查询,HippoRAG 提取关键概念,并在 KG 上运行个性化 PageRank (PPR) 算法,以查询概念为种子,整合不同段落的信息进行检索。

PageRank 使 HippoRAG 能够探索知识图谱路径并识别相关子图,本质上是在单个检索步骤中执行多跳推理。这种高效的图搜索模拟了海马体从部分线索中提取相关信号的过程。PPR 中的节点概率会在索引段落上进行聚合,从而对其进行排序以供检索。

HippoRAG 2HippoRAG 2

HippoRAG 2 在HippoRAG的基础上进行了几项关键改进,如下:

1、密集-稀疏整合:HippoRAG知识图谱中的节点主要由描述概念的短语组成,我们在本文中将这些节点称为短语节点。这种图结构引入了与概念-上下文权衡相关的限制。概念简洁且易于泛化,但通常会丢失信息。HippoRAG 2改进: 在知识图谱(KG)中同时整合了概念(短语节点)和上下文(段落节点),以更好地模拟人类记忆中的概念与上下文的交互。这种整合使得 KG 不仅包含概念信息,还包含丰富的上下文信息,从而增强了检索的全面性和准确性。

2、更深层次的上下文化:观察到HippoRAG中的查询解析主要围绕概念展开,这经常忽视了知识图谱(KG)内的上下文对齐。这种以实体为中心的提取和索引方法对概念有强烈的偏好,导致许多上下文信号被利用不足。HippoRAG 2改进: 引入了更深层次的上下文链接方法,允许查询直接与 KG 中的三元组进行匹配,而不仅仅是实体或节点。这种方法提高了查询与知识图谱之间的语义匹配度,使得检索结果更加相关和准确。

3、识别记忆:引入了识别记忆机制,作为查询到三元组检索过程的一个过滤步骤。通过使用 LLM 过滤检索到的三元组,HippoRAG 2 能够更有效地选择相关的种子节点,从而提高检索的精度和效率。

4、在线检索的改进:在在线检索过程中,HippoRAG 2 不仅考虑了短语节点的排名分数,还将段落节点的嵌入相似性纳入重置概率的计算中。这种方法平衡了概念节点和上下文节点的影响,使得检索结果更加全面和准确。

实验

数据集设计:选择了多个数据集来评估RAG系统在保留事实记忆、增强关联性和理解能力方面的表现。数据集包括自然问题(NQ)、PopQA、MuSiQue、2Wiki、HotpotQA、LV-Eval和NarrativeQA。

img

基线方法:选择了三种简单的基线方法(BM25、Contriever、GTR)和几种大型嵌入模型(GTE-Qwen2-7B-Instruct、GritLM-7B、NV-Embed-v2),以及四种结构增强的RAG方法(RAPTOR、GraphRAG、LightRAG、HippoRAG)。

QA性能QA性能

检索性能检索性能

消融实验:查询到三元组的方法显著提高了HippoRAG 2的性能消融实验:查询到三元组的方法显著提高了HippoRAG 2的性能

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

HippoRAG 2:开源RAG框架革新知识检索,多跳推理+持续学习全搞定 HippoRAG 2 是俄亥俄州立大学推出的检索增强生成框架,通过个性化PageRank算法和知识图谱技术,显著提升了RAG系统在复杂问答任务中的表现。 阅读详情

相关推荐

ARCGIS绘制全国各省PM2.5浓度图操作步骤

ArcGIS新手小白一枚,经常需要帮助老师绘制一些简单的空间图,利用ArcGIS绘制全国各省的pm2.5浓度图,简单又方便,不记下来会忘记~

weixin_43458484的博客 1万+

GraphRAG变种进化论:HippoRAG 2.0来了!

HippoRAG2通过改进知识图谱结构显著提升RAG系统性能。其核心创新包括:1)整合概念节点与上下文段落节点,模拟人脑记忆机制;2)引入三元组直接匹配机制,提升语义对齐精度;3)新增LLM过滤层优化检索质量。实验表明,在NQ、HotpotQA等7个数据集上,该方法在事实记忆、多跳推理等任务中优于传统RAG方案。当前大模型人才缺口达47万,掌握RAG等核心技术可显著提升职业竞争力。学习路径建议分四阶段:从提示工程到RAG开发,再到模型微调及商业部署,完整资料可通过CSDN免费获取。

Trb701012的博客 1037

PSI5协议技术文档与驱动开发指南

• 供电与数据复用:ECU通过双绞线为传感器提供稳压(典型值5V-11V),同时检测线路电流变化实现数据传输。• 同步信号:ECU发送3.5V电压脉冲(上升沿触发传感器响应),用于时序同步。• 安全气囊:PSI5-P模式实现多碰撞传感器同步采样(响应时间<10ms)• CRC-3(3位):ASIL-B以上功能安全要求(如动力总成传感器)• 奇偶校验(1位):适用于低安全等级场景(如PSI5-P10P模式)• 典型应用:PSI5-P(并行总线)、PSI5-U(通用总线)

u012733413的博客 2857

HippoRAG2-大语言模型长期记忆机制

一、研究背景与动机在快速变化的世界中,持续吸收、整合和运用知识是人类智能的核心能力,而人工智能系统要成为真正的人类级助手,必须具备类似的持续学习能力。大型语言模型(LLMs)虽在多个领域取得突破,但在长期记忆方面存在两大挑战:一是难以充分吸收新知识,二是容易出现“灾难性遗忘”(旧知识被新知识覆盖)。感知理解(Sense-making):解读复杂、不确定语境的能力(如理解长篇故事的逻辑);关联性(Associativity):在分散知识间建立多跳连接的能力(如通过多步推理回答问题)。

晓的博客 1007

医学图像中的小目标病灶检测难题:我的硕士研究总结与思考

医学图像中的小目标检测和分割,主要指在CT、MRI、超声等医学影像中识别和分割微小病灶或细小结构。这些小目标通常体积小、边界模糊、特征不明显,却往往是关键病灶,例如肺部小结节、脑微出血、乳腺微钙化等。

weixin_45638136的博客 2357

深度解析仿人脑记忆搜索的HippoRAG2,全面对比GraphRAG、KAG、LightRAG和PIKE-RAG,成本缩减12倍

持续获取、组织和利用知识的能力是人类智能的关键特征,而 AI 系统若想充分发挥潜力,也必须具备这一能力。近期,一些 RAG 方法通过引入知识图谱等结构来增强对信息的理解和联想能力,部分弥补了这些不足。然而,这些增强方法在基础事实记忆任务上的表现通常远逊于标准 RAG。HippoRAG 2[1] 基于 HippoRAG 采用的,并进一步优化了信息整合方式,同时增强了 LLM 在在线检索中的作用。

m0_59163425的博客 1937

C# : 计算并输出这一天是这一年的第几天

C#之输入某年,然后输入某月,再输入某日,计算并输出这一天是这一年的第几天的功能算法

saitoDeng的博客 966

HippoRAG2.0震撼发布!GraphRAG变种进化,多跳复杂推理性能飞跃提升!

HippoRAG2改进知识检索系统,通过整合概念与上下文优化性能。它基于HippoRAG框架,在知识图谱中同时引入短语节点和段落节点,增强语义匹配。关键改进包括:1)密集-稀疏整合平衡概念与上下文;2)深层上下文链接提升三元组匹配;3)识别记忆机制过滤无关内容;4)在线检索优化节点评分策略。实验使用NQ、HotpotQA等数据集验证其在多跳推理和事实记忆方面的优势。文章还提供了AI大模型学习路径,涵盖系统设计、提示工程到行业应用的完整知识体系。

2401_84494441的博客 976

173、NPU的编译器开发:开源社区贡献指南

本文分享了在NPU编译器开源社区贡献的经验心得。作者通过实际案例(如卷积维度错误、NaN输出等)阐述了NPU编译器开发的特殊性:硬件迭代快、边界条件复杂、厂商代码不可全信。提出有价值的贡献应聚焦硬件适配测试、性能剖析工具和反模式文档三类内容。强调用实测数据沟通、主动承担维护责任、保持代码通用性等社区协作技巧,并建议通过RFC提前沟通、附硬件实测数据等方式提高PR通过率。最后指出,NPU编译器开发是与聪明人共同填坑的过程,鼓励开发者提交"有诚意的代码"而非完美代码。

m0_50546716的博客 33

化工设计软件:PDMS二次开发_(9).项目案例分析与实战

在化工设计项目中,材料的选择和管理是至关重要的环节。PDMS自带的材料数据库可能无法完全满足特定项目的需求,因此需要进行自定义材料数据库的二次开发。本案例的目标是创建一个自定义材料数据库,并将其集成到PDMS中,以便设计团队能够方便地使用这些材料进行设计。材料名称:材料的唯一标识符。材料类型:如金属、塑料、复合材料等。材料属性:如密度、热导率、耐温范围等。// 定义材料类set;} // 材料名称set;} // 材料类型set;} // 密度set;} // 热导率set;} // 最低耐温。

kkchenjj的博客 566

全文 - Building AI Coding Agents for the Terminal: Scaffolding, Harness, Context Engineering, and Less

AI 编程辅助的格局正在经历一场根本性转变:从复杂的 IDE 插件转向通用的、终端原生的智能体(agent)。直接在开发者管理源代码版本控制、执行构建和部署环境的终端中运行,基于 CLI 的智能体为长程开发任务提供了前所未有的自主性。本文介绍OpenDev——一个专为这一新范式打造的开源命令行编程智能体。有效的自主辅助需要严格的安全控制和高效的上下文管理,以防止上下文膨胀和推理退化。

eloudy的专栏 445

33、密码学中的选择密文攻击与Cramer - Shoup加密方案

本文详细介绍了密码学中选择密文攻击的背景及其对Cramer-Shoup公钥加密方案的影响。该方案在决策Diffie-Hellman假设和抗碰撞哈希函数的基础上,能够有效抵御自适应选择密文攻击,并且其安全性无需依赖随机预言机模型。文章还分析了Cramer-Shoup方案的设计原理、加密与解密过程,以及其在标准假设下的安全性证明方法。此外,通过一系列相关练习,帮助读者进一步理解密码学概念如密文不可区分性、ElGamal加密、Goldwasser-Micali方案等。最后,文章展望了密码学的未来发展趋势,包括量子

vscode6remote的博客 91

AGI|RAG进化论:从青铜到王者,一文看懂 RAG 全家族

从RAG到Advanced RAG,详解RAG家族演变

在数字化道路无限探索 1336

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

大模型RAG技术(二)如何进行检索增强?RAG和微调应该如何选择?未来RAG还有哪些发展前景?

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

老皮的博客 1176

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

【4.13.-4.20学习周报】

本博客介绍了论文《From RAG to Memory: Non-Parametric Continual Learning forLarge Language Models》提出HippoRAG 2框架,以解决现有检索增强生成(RAG)系统在模拟人类长期记忆方面的局限。首先分析了持续学习LLMs的挑战及RAG方法的不足,如无法捕捉长期记忆的意义构建和关联性。接着介绍HippoRAG 2的离线索引和在线检索流程,通过密集 - 稀疏集成、深度上下文关联和识别记忆等改进,增强了与人类记忆机制的契合度。

lzj2002522的博客 1041

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

技术动态 | 智谱共融:大模型驱动的知识图谱范式重构与演进路径

本文将深入探讨知识图谱与大模型的深度融合路径,包括提示工程、模型微调、检索增强、推理协同等方面的应用,通过这些融合,将有助于构建下一代可信的智能系统,为实现通用人工智能奠定基础。上下⽂检索筛选⾼相关实体,反向优化推理路径。图结构存在一些天然的优势,例如具有更强的复杂推理能力,更好的可解释性、知识表达与关联性,以及更灵活的知识源集成能力,可以为大模型落地提供关键支撑。未来,将进一步拓展应用场景,加强技术研发,同时持续开展社区建设,构建大模型时代下全球领先的知识图谱开源生态,推动知识要素的高效流通与持续增值。

开放知识图谱 786

【第四十七周】HippoRAG 2 复现与分析(一):环境部署与代码分析

本文记录了HippoRAG 2系统的核心功能测试过程。通过构建小型结构化文档库,验证了系统的索引构建、动态更新、问答检索及评估能力。测试中替换OpenAI为Deepseek API,使用NV-Embed-v2嵌入模型,成功获得66.67%的答案精确匹配率。这一阶段既确认了系统基础功能(如稳定索引和检索效率),也暴露了模型配置等优化点,为后续大规模实验提供了可复用的测试框架和改进方向。环境搭建和运行测试为系统正式部署奠定了基础。

qq_30043925的博客 1742

2025大模型学习必备干货!路线图+学习资源,助你成为AI达人!

我们提出了AutoSchemaKG,一个完全自主的知识图谱构建框架,无需预定义模式。我们的系统利用大型语言模型同时提取知识三元组和直接从文本中归纳全面的模式,对实体和事件进行建模,并在使用概念化将实例组织成语义类别的同时进行建模。处理超过5000万份文档后,我们构建了ATLAS(自动化三元链接和模式归纳),一系列拥有9亿多个节点和59亿多条边的知识图谱。这种方法在多跳问答任务上优于最先进的基线,并增强了大型语言模型的事实验实性。

m0_63171455的博客 1004

比GraphRAG和LightRAG还强的HippoRAG 2来了!

接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。同义词检测:在构建的知识图谱中,识别并添加同义词边。

kaka0722ww的博客 2020

HippoRAG 2:从RAG到记忆——大模型的非参数化持续学习

今天我们将探讨一篇RAG的论文,主题是大模型的非参数化持续学习框架——HippoRAG 2。该研究针对大模型在吸收新知识和避免灾难性遗忘方面的挑战,提出了一种新的方法,模拟人类长期记忆的动态性和关联性。,为大模型的持续学习提供了新的可能性。1. 基本信息。

m0_59163425的博客 2549

RAG 方法大盘点:GraphRAG、GraphReader、LightRAG、HippoRAG 及 KAG 全解析

RAG 方法大盘点:GraphRAG、GraphReader、LightRAG、HippoRAG 及 KAG 全解析

python12345_的博客 1940

九大GraphRAG的全面评估:GraphRAG-Bench基准测试集解析 - 香港理工&腾讯优图等

图检索增强生成(GraphRAG)因其在通过结构化组织领域特定语料库和促进复杂推理来增强大型语言模型(LLMs)方面的潜力而日益受到认可。然而,目前对GraphRAG模型的评估主要依赖于传统的问答数据集。它们在问题和评估指标上的有限范围无法全面评估GraphRAG模型所提升的推理能力。为了填补这一空白,我们引入了GraphRAG-Bench,这是一个大规模、领域特定的基准测试,旨在严格评估GraphRAG模型。我们的基准测试提供三个主要优势:

m0_59164304的博客 846
上一篇: 大模型微调前必须想清楚的5个问题:别让你的项目从入门到放弃
下一篇: 大模型私有部署的最优解:构建企业级大模型统一能力底座
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2812原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值