IAAR-Shanghai/Awesome-AI-Memory
Awesome AI Memory | LLM Memory | A curated knowledge base on AI memory for LLMs and agents, covering long-term memory, reasoning, retrieval, and memory-native system design.
About IAAR-Shanghai/Awesome-AI-Memory
IAAR-Shanghai/Awesome-AI-Memory is an open-source project on GitHub, mainly written in Python. Awesome AI Memory | LLM Memory | A curated knowledge base on AI memory for LLMs and agents, covering long-term memory, reasoning, retrieval It currently holds 1,224 stars and 0 forks with 0 open issues, and was last pushed on an unknown date (repository created unknown).
Project Overview
AI Homed tracks it on the AI Agent Memory board.
GitHub Repository Details
README
Awesome-AI-Memory
【中文 | English】
👋 简介
大语言模型(LLM)已迅速发展为强大的通用推理与生成引擎。然而,尽管其能力不断提升,LLM 仍然受到一个根本性限制的约束:上下文窗口(Context Window)长度有限。这一限制决定了模型在单次推理过程中能够直接访问的信息范围,使其在本质上仅具备短期记忆能力,难以支持长期对话、个性化交互、持续学习以及复杂的多阶段任务。为突破上下文窗口的固有限制,面向大模型的记忆与记忆系统(AI Memory & Memory Systems for LLMs)逐渐成为一个重要且活跃的研究与工程方向。通过为模型引入参数之外的外部、可持久化且可控的记忆结构,记忆系统使大模型能够在生成过程中存储、检索、压缩和管理历史信息,从而在有限上下文中持续利用长期经验,实现跨会话的一致性与连续推理能力。
Awesome-AI-Memory 是一个围绕 AI 大模型记忆与记忆系统构建的资源汇编仓库,系统性地收集相关的研究论文、框架工具与实践经验。该仓库致力于梳理并呈现大模型记忆领域快速发展的研究脉络,连接自然语言处理、信息检索、智能体系统与认知科学等多个研究方向。
---
🎯 仓库目标
本仓库的目标是构建一个集中、持续演进的知识库,为研究者与工程实践者提供参考,助力构建能够长期记忆、持续推理并随时间不断适应的智能系统。---
📏 项目范围
本仓库关注的是用于扩展或补充大模型上下文窗口能力的记忆机制与系统设计,而非单纯的模型预训练或通用知识学习。内容同时涵盖理论研究与工程实践。🌀 包含内容(In Scope)
- 面向大语言模型的记忆与记忆系统设计
- 模型参数之外的外部显式记忆
- 短期记忆、长期记忆、情节记忆与语义记忆
- 作为记忆访问机制的检索增强生成(RAG)
- 记忆管理策略(写入、更新、遗忘、压缩)
- 智能体(Agent)中的记忆系统
- 多智能体的共享记忆与协作记忆
- 受认知科学与生物记忆启发的记忆模型
- 与大模型记忆相关的评测方法、基准与数据集
- 记忆增强型 LLM 的开源框架与工具
- 与记忆无直接关联的一般模型预训练或规模化研究
- 不涉及记忆交互的纯参数化知识学习
- 与 LLM 无关的传统数据库或信息检索系统
- 非大模型场景下的通用记忆系统(除非具有直接迁移价值)
🔔 近期热点研究与新闻
+ 2026-09-20 - 🎉 更新 25 篇论文,其中方法类与框架类论文 17 篇,数据集和评估基准类论文 4 篇,模型和系统类论文 4 篇 + 2026-09-15 - 🎉 更新 250 篇论文,其中综述 3 篇,方法类与框架类论文 180 篇,数据集和评估基准类论文 32 篇,模型和系统类论文 35 篇 + 2026-09-15 - 🎉 更新 1 篇论文,其中方法类与框架类论文 1 篇 + 2026-07-06 - 🎉 更新25篇论文,数据集和评估基准类5篇,方法类与框架类23篇 + 2026-06-21 - 🎉 更新27篇论文,模型和系统类9篇,数据集和评估基准类5篇,方法类与框架类13篇 + 2026-06-14 - 🎉 更新24篇论文,综述类2篇,模型和系统类4篇,数据集和评估基准类2篇,方法类与框架类16篇 + 2026-06-06 - 🎉 更新45篇论文,综述类1篇,模型和系统类6篇,数据集和评估基准类12篇,方法类与框架类26篇 + 2026-05-10 - 🎉 更新16篇论文,系统&模型类3篇,Benchmark类1篇,方法类12篇;并新增1个开源系统项目 + 2026-05-06 - 🎉 更新16篇论文,系统&模型类2篇,Benchmark类2篇,方法类12篇 + 2026-04-27 - 🎉 更新15篇论文,综述类2篇,系统与模型类3篇,方法类10篇 + 2026-04-17 - 🎉 更新46篇论文,综述类1篇,系统与模型类5篇,Benchmark类3篇,方法类37篇 + 2026-04-07 - 🎉 更新16篇论文,方法类15篇,Benchmark类1篇 + 2026-03-15 - 🎉 更新14篇论文,方法类14篇 + 2026-03-08 - 🎉 更新15篇论文,综述类3篇, 系统&模型类2篇,Benchmark类5篇,方法类5篇。 + 2026-03-02 - 🎉 新增一个代码agent到仓库中 + 2026-02-27 - 🎉 更新20篇论文,综述类1篇, 系统&模型类2篇,Benchmark类2篇,方法类15篇。 + 2026-02-26 - 🎉 更新14篇论文,方法类14篇 + 2026-02-14 - 🎉 更新15篇论文,综述类1篇,方法类12篇,benchmark类1篇,系统与模型类1篇 + 2026-02-09 - 🎉 更新15篇论文 + 2026-02-01 - 🎉 更新16篇论文,方法类9篇,benchmark类4篇,系统与模型类3篇 + 2025-12-24 – 🎉 发布仓库-V(1.0) + 2025-12-10 – 🎉 仓库初始化---
🗺️ 目录表
- Awesome-AI-Memory
- 👋 简介
- 🎯 仓库目标
- 📏 项目范围
- 🔔 近期热点研究与新闻
- 🧠 核心概念
- 📚 论文列表
- 🧰 仓库资源
- 📊 测试基准
- 💻 开源系统
- 🎥 多媒体资源
- 🧠 Adam 框架
- 🤝 如何贡献
- 💬 社区和支持
- 🌟 仓库关注量
🧠 核心概念
- 大模型记忆: LLM的记忆机制融合了隐性知识(通过训练过程内化于模型参数中)与显式存储(运行时可检索的外部存储),这种双重架构使模型突破token处理的局限,具备类似人类"记忆过往、认知当下、预见未来"的认知能力。
- 记忆系统:为大语言模型实现记忆功能的完整技术架构,包含四大核心组件:
- 记忆存储层:向量数据库(如 Chroma、Weaviate)、图数据库或混合存储方案
- 记忆处理层:嵌入模型、摘要生成器与记忆分割器
- 记忆检索层:多阶段检索器、重排序模块与上下文注入器
- 记忆控制层:记忆优先级管理器、遗忘控制器与一致性协调器
- 记忆操作:通过记忆系统工具调用执行的原子级记忆操作:
- 写入:将对话内容转换为向量进行存储,通常结合摘要生成以减少噪声信息
- 检索:根据当前上下文生成查询语句以获取Top-K相关记忆
- 更新:通过向量相似度找到相关记忆并进行替换或增强
- 删除:基于用户指令或自动策略(如隐私数据过期)删除特定记忆
- 压缩:将多个相关记忆合并为摘要以释放存储空间
- 记忆管理:在记忆系统内实施记忆管控的方法论,包含以下机制:
- 记忆生命周期:从创建、活跃使用、冷启动访问到归档/删除的全周期管理
- 冲突解决:矛盾信息仲裁机制(如时间戳优先级、来源可信度加权)
- 资源预算:为不同用户/任务分配内存配额以防止资源滥用
- 安全治理:自动检测和去标识化个人身份信息(PII)
- 记忆分类:记忆系统特有的多维度分类体系:
- 按访问频率:工作记忆(当前任务)、常用记忆(个人偏好)、归档记忆(历史记录)
- 按结构化程度:结构化记忆(数据库记录)、半结构化记忆(对话摘要)、非结构化记忆(原始对话文本)
- 按共享范围:个人记忆(单用户)、团队记忆(协作空间)、公共记忆(共享知识库)
- 按时效属性:永久记忆(核心事实)、临时记忆(对话上下文)、时效性记忆(如"用户今天心情不好")
- 记忆机制:驱动记忆系统功能的核心技术组件:
- 检索增强生成(RAG):通过从知识库中检索相关信息来增强生成能力
- 记忆反思循环:模型定期"回顾"对话历史以生成高层次摘要
- 记忆路由:根据查询类型(个人记忆/公共知识库)自动选择检索源
- 显式记忆:以原始文本形式存储在模型外部的记忆,通过融合混合索引策略的向量数据库实现:
- 稠密向量索引:处理语义相似性查询
- 稀疏关键词索引:处理精确匹配查询
- 多向量索引:将长文档切分为多个部分,每个部分独立索引
- 参数化记忆:存储于语言模型固定权重中的知识与能力,具有以下特征:
- 作为模型的核心长期语义记忆载体
- 无需外部检索或显式上下文支持即可激活
- 提供零样本推理、通用响应与语言生成的基础能力
- 长期记忆:设计用于持久存储的关键信息,通常通过外部知识库实现,包含以下功能:
- 自动摘要生成:将多轮对话提炼为结构化记忆
- 上下文绑定:记录记忆上下文以防止错误泛化
- 多模态存储:同时保存文本、图像、音频等多种模态记忆
- 短期记忆:受限于注意力机制的大语言模型上下文窗口中的活跃信息,包含以下关键技术:
- KV缓存管理:复用键值缓存以减少冗余计算
- 上下文压缩:使用摘要替代详细历史(如:"前5轮对话讨论了项目预算")
- 滑动窗口注意力机制:仅关注最近N个token,同时保留特殊标记
- 记忆摘要注入:将长期记忆摘要动态插入短期上下文
- 情景记忆:记录特定用户交互历史的记忆类型,是个性化AI的基础:
- 用户身份识别:跨会话识别同一用户
- 交互轨迹记录:保存用户决策路径与反馈
- 情绪状态追踪:记录用户情绪变化规律
- 偏好演化建模:捕捉用户兴趣长期变化
- 记忆遗忘:大模型中刻意设计的遗忘机制,包含以下技术实现:
- 选择性遗忘(机器遗忘):移除训练数据中特定信息的影响,例如通过遗忘层覆盖特定知识
- 隐私保护遗忘:自动识别并删除个人身份信息(PII),或设置自动过期策略
- 记忆衰减:根据使用频率自动降低低频访问记忆的优先级
- 冲突驱动遗忘:当新证据与旧记忆冲突时,策略性更新或淘汰旧记忆
- 记忆检索:从海量记忆库中精确定位相关信息的复杂过程:
- 语义预过滤:通过向量相似度匹配获取Top-100候选结果
- 上下文重排序:根据当前查询上下文重新排序结果
- 时间过滤:优先选择最新相关数据
- 记忆压缩:在资源受限条件下最大化记忆效用的技术体系:
- 内容级压缩:提取核心信息并舍弃冗余细节
- 表征级压缩:向量量化(如乘积量化编码)、维度约简
- 组织级压缩:聚类相似记忆、构建分层记忆结构
- 知识蒸馏:将外部记忆中的关键模式迁移至参数化记忆