- 大家好,我是同学小张,日常分享AI知识和实战案例
- 欢迎 点赞 + 关注 👏,持续学习,持续干货输出。
- +v: jasper_8017 一起交流💬,一起进步💪。
- 微信公众号也可搜【同学小张】 🙏
本站文章一览:

在AI应用中,无论是多轮对话场景、RAG场景还是AI Agent场景中,记忆能力都是不可或缺的一部分。然而,记忆能力是目前大模型的短板,所以,现在很多框架,诸如 LangChain、MetaGPT 等,都封装了自己的记忆模块,以方便开发者实现自己大模型应用的记忆功能。
之前我们简单概览了一下 LangChain 的 Memory 模块(【AI大模型应用开发】【LangChain系列】3. 一文了解LangChain的记忆模块(理论实战+细节)),那只是在多轮对话场景中,简单的取最近几次的对话历史作为记忆。这是最简单的使用记忆的方法,也是短期记忆的一种。
本文我们来系统看下实现大模型应用记忆的方法,包括短期记忆和长期记忆。还是以LangChain为例来进行实战。
文章目录
- 0. LangChain中 Memory 实战
-
- 0.1 记忆封装罗列
- 0.2 实践:VectorStoreRetrieverMemory的使用
-
- 0.2.1 完整代码
- 0.2.2 代码解释
- 0.2.3 运行效果展示
- 1. 如何让AI应用具备长期记忆?
-
- 1.1 LangChain 中的记忆模块是否具有长期记忆的能力?
- 1.2 关于让AI应用具备长期记忆的一些研究
-
- 1.2.1 记忆思考:回忆和后思考使LLM具有长期记忆
- 1.2.2 递归总结在大型语言模型中实现长期对话记忆
- 1.2.3 更多研究
0. LangChain中 Memory 实战
我这里将记忆简单理解为对话历史,查询历史等历史记录。
0.1 记忆封装罗列
在 LangChain 中提供了多种获取记忆的封装,例如ConversationBufferMemory、ConversationBufferWindowMemory、ConversationTokenBufferMemory等。
简单罗列如下:
ConversationBufferMemory可以理解为通用的将全部的历史记录取出来。ConversationBufferWindowMemory可以理解为滑动窗口,每次只取最近的K条记录。ConversationTokenBufferMemory可以理解为控制每次取的历史记录的Token数。ConversationSummaryMemory: 对上下文做摘要ConversationSummaryBufferMemory: 保存 Token 数限制内的上下文,对更早的做摘要VectorStoreRetrieverMemory: 将 Memory 存储在向量数据库中,根据用户输入
订阅专栏 解锁全文

1543

被折叠的 条评论
为什么被折叠?



