llm检索增强创新

HippoRAG 2:开源RAG框架革新知识检索,多跳推理+持续学习全搞定 HippoRAG 2 是俄亥俄州立大学推出的检索增强生成框架,通过个性化PageRank算法和知识图谱技术,显著提升了RAG系统在复杂问答任务中的表现。 阅读详情

原文链接:https://i68.ltd/notes/posts/20250312-llm-rag2/

HippoRAG 2 海马体记忆索引

优点与创新
  • 创新的检索框架
    • HippoRAG引入了一种受人类长期记忆海马体索引理论启发的检索框架,能够更深层次和高效地整合新经验。
  • 多步推理的单步检索
    • HippoRAG通过个性化PageRank算法在单次检索中实现多步推理,显著提高了多跳问答任务的性能。
  • 成本效益高
    • 与现有的迭代检索方法相比,HippoRAG的在线检索过程成本降低10到30倍,速度提高6到13倍。
  • 结合现有方法
    • HippoRAG可以与现有的迭代检索方法如IRCoT结合,进一步提升性能。
  • 处理新型场景
    • HippoRAG能够处理现有方法难以应对的新型多跳问答场景。
  • 神经生物学原理
    • HippoRAG的设计基于人类记忆的神经生物学原理,提供了更合理的解释和理论基础。
不足与反思
  • 组件微调
    • 目前HippoRAG的所有组件都使用现成模型,未来可以通过特定组件的微调来提高其实际应用的可行性。
  • 错误分析
    • 大多数错误是由于命名实体识别(NER)和开放信息提取(OpenIE)的局限性造成的,未来可以通过直接微调这些组件来改进。
  • 关系引导的图遍历
    • 目前的PPR算法在区分相似主题但不同相关性的段落时存在不足,未来可以考虑允许关系直接引导图遍历。
  • 可扩展性验证
    • 尽管Llama-3模型在成本上具有优势,但其合成海马体索引的可扩展性仍需进一步验证,特别是在索引规模远超当前基准的情况下。
代码问题
  • 封装隔离做得不好,比较杂乱
    • 直
LLM RAG(检索增强生成)领域的高级技术汇总(一) 通过LLM判断查询类型(如事实类 vs 创意类),动态选择检索库或跳过RAG直接生成。:构建“摘要-细节”多级索引,先通过摘要筛选相关文档,再进行细粒度检索,减少计算开销。:使用LLM将用户问题重写为多版本(如关键词提取、逆向问题生成),覆盖更广检索范围。:结合蒙特卡洛树搜索(MCTS)与RAG,通过奖励模型评估检索路径,避免局部最优。:根据语义边界(如段落、代码块)分割文本,避免机械式固定长度分块,提升嵌入质量。:将图像、音频等通过多模态模型(如CLIP)编码为向量,支持跨模态检索。 阅读详情

相关推荐

CausalRAG:将因果图融入检索增强生成

如果说传统RAG是个只会背课本的学霸,那么CausalRAG就是那个不仅知道答案,还能给你画出一整张思维导图的超级学霸!它甚至能告诉你为什么A会导致B,而不是像某些模型那样只会说’根据相关文献…'这样的万能废话。不过要注意的是,这位超级学霸有点’烧脑’——构建因果图就像让AI做数学证明题,计算成本可不低。但为了得到靠谱的回答,这点电费,咱们算法工程师还是付得起的!

AI人工智能的学习之路 2489

LightRAG:革命性知识图谱增强检索架构的技术解析与实践指南

LightRAG是由香港大学数据科学实验室(HKUDS)开发的开源检索增强生成(Retrieval-Augmented Generation)系统,代表了当前RAG技术发展的最前沿。与传统RAG系统相比,LightRAG创新性地将知识图谱技术深度整合到检索过程中,通过实体关系提取和智能图谱构建,实现了对复杂查询的深度理解和精准回答。该系统不仅支持多模态文档处理,还提供了完整的Web UI界面和API支持,为企业级应用提供了强大的知识管理解决方案。LightRAG采用分层模块化架构,整个系统由四个核心层次组成

Aaron_945的博客 647

检索增强世界模型R-WoM:解决LLM规划难题的创新架构

检索增强生成(RAG)技术通过整合外部知识库显著提升大语言模型(LLM)的准确性,已成为解决AI幻觉问题的关键技术路径。R-WoM创新性地将RAG与强化学习结合,构建三层grounding机制实现动态知识验证:操作前锚定官方文档、模拟中持续一致性检查、基于对比评估的动作选择。这种架构使AI代理在软件操作等长程规划任务中保持87%的准确率,相比传统方法提升达11%。关键技术实现包含FAISS向量检索优化、长链式推理压缩延迟63%、以及基于Bradley-Terry模型的相对奖励估计。典型应用场景覆盖IT自动化

weixin_42521032的博客 513

使用主动检索增强生成 FLARE 实现更优越的 RAG

FLARE 是前瞻性主动检索增强生成(Forward-Looking Active Retrieval Augmented Generation)的缩写。这是一种补充 LLM 的方法,在模型生成内容的过程中主动纳入外部信息。这一过程大大降低了产生幻觉的风险,确保内容不断得到外部数据的检查和支持。传统的检索-增强生成在传统的检索-增强生成模型中,通常的方法是在生成过程开始时执行一次检索。该方法涉及使用初始查询,例如“总结 Narendra Modi 的维基百科页面”,并根据此查询检索相关文档。

HJ_blog 597

RAG 检索增强生成全解:假设答案作为相似检索,将问题转化为相关问题(需要设计转化原则)

**RAG(检索增强生成)技术通过结合外部知识检索与大型语言模型,有效解决传统LLM的幻觉、知识过时和隐私问题。其核心流程分为离线数据处理(文档加载、分块、向量嵌入、存储)和在线查询(向量化、检索、重排序、生成)两阶段,显著提升回答准确性(达85%-95%)。2026年行业创新包括图检索增强、自适应检索和纠正型RAG等架构优化,以及视觉原生检索等跨模态突破,推动RAG向多跳推理和复杂场景演进。评估体系涵盖检索质量(Recall@k)和生成质量(Faithfulness)双维度,通过自动化工具实现量化分析。该

ZhangJiqun&191cm&85kg 159

Unity——Scroll View 滑动居中、居中的放大、其他的缩小(支持横竖Scroll View)

一、效果 二、上代码,两种方式。 (第一种是在Update中用插值完成的,如果不想再项目中看到Update,下面的另一种改了一段用DoTween实现的,需要导入一下DoTween) using System; using System.Collections; using System.Collections.Generic; using UnityEngine; using Unit...

SiReSo 7648

C# typeof() 和 GetType()区别

总得来说他们都是为了获取某个实例具体引用的数据类型System.Type。 1、GetType()方法继承自Object,所以C#中任何对象都具有GetType()方法,x.GetType(),其中x为变量名,由x实例返回得到一个类型 2、typeof(x)中的x,必须是具体的类名、类型名称等,不可以是变量名称,返回一个类型 3、System.Type.GetType(),有两个重载方法 比如有这样一个变量i: Int32 i = new Int32(); 使用GetType(),i...

Peter的博客 1946

开发框架Furion之WebApi+SqlSugar (一)

MyFurion.Model项目中,通过Nuget添加Furion、Furion.Extras.DatabaseAccessor.SqlSugar、Furion.Extras.ObjectMapper.Mapster、SqlSugarCore,同时添加对项目MyFurion.Unility的引用。在MyFurion.Start项目中,通过Nuget添加 AspNetCoreRateLimit、System.Linq.Dynamic.Core,同时添加对项目MyFurion.Application的引用。

liwan09的博客 1万+

手把手教你使用HFSS仿真高速差分过孔—上

高速数字电路设计中,信号完整性是一个非常重要的问题。为了使信号保持良好的传输特性,PCB板上的互联线一般都采用均匀传输线,使互联线保持特性阻抗一致性,减少信号反射。然而PCB板上的互联线很多时候避免不了换层的问题,这时候就必须使用过孔。过孔会导致阻抗不连续,进而造成反射,出现信号完整性问题。         当信号传输速率越高,信号前沿越短的时候,过孔引入的信号完整性问题越严重,需要对过孔进行优

a2447944219的博客 2万+

vins-mono保存、重载地图、evo工具测试

下面咱们来对vins-mono的重定位vins-mono官方源码地址:https://github.com/HKUST-Aerial-Robotics/VINS-Mono https://blog.csdn.net/learning_tortosie/article/details/83182258 运行这条: roslaunch benchmark_publisher publish.launc...

追 1万+

GOM Correlate拉伸试验后处理操作

本文描述了使用GOM Software 2022对拉伸试样进行后处理的操作,包括设置检测点、引伸计、输出应变数据到表格、输出报告为视频等

qq_45008924的博客 4626

全面解读 SAP Business Data Cloud

SAP 在 2025 年初正式推出(简称BDC),它把、以及全新的统一封装为一项完全托管的 SaaS 服务,配套交付“语义层 + 数据产品 + 智能应用”三层能力,为企业构建真正贴近业务语境的 “Business Data Fabric”。这一方案不仅解决了跨系统数据碎片化、治理难及 AI 训练数据可信度低的问题,还为现有 BW 客户、S/4HANA以及第三方工作负载提供云上现代化路径和零拷贝数据共享机制。本文将围绕技术架构、核心组件、业务场景、迁移路线及未来展望展开,以 Henkel 等真实案例佐证。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 883

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

上一篇: llm主流开发框架
下一篇: rust服务应用开发框架
galileo2016
博客等级 码龄9年 234粉丝 46原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值