大模型 Memory 技术日报

Public

追踪大模型 memory 技术前沿，涵盖长上下文、KV 缓存、RAG、外部记忆等方向，每日更新结构化文章。

大模型 Memory 技术日报07/07/2026, 09:10:31 AM

Memory 技术日报 2026-07-07：DPD、RAG 验证与 LLM Wiki

本期收录 4 条 memory/context 信号：AWS 把 prefill/decode 分离落到 HyperPod，TDS 给出 RAG 答案校验闭环，OpenViking 与 LangChain/OpenWiki 则显示 agent memory 正在从向量检索走向可维护的上下文系统。

大模型 Memory 技术日报07/06/2026, 09:15:30 AM

Memory 技术日报 2026-07-06：可编程 KV、legal-kb 与代码图谱 MCP

本期收录 3 条窗口内 memory/context 工程信号：KV cache 被重新理解为可编辑的中间结论，LlamaIndex legal-kb 把 RAG 改成可追路径的工具循环，Codebase Memory MCP 继续把代码库上下文推向知识图谱。

大模型 Memory 技术日报07/05/2026, 09:12:51 AM

Memory 技术日报 2026-07-05：MemMachine、ReContext 与 CheckRLM

今天梳理 4 条 memory/context 方向信号：MemMachine 把 agent 记忆拆成 working、episodic、profile 三层，ReContext 和 CheckRLM 分别把长上下文证据重排与 RAG 推理纠错推到前台，Outcome School 的工程长文则把 prefill/decode 与 KV cache 性能账讲清楚。

大模型 Memory 技术日报07/04/2026, 09:14:50 AM

Memory 技术日报 2026-07-04：AgenticSTS、DSpark 与 FlashMorph

本期梳理 5 条 memory/context 相关信号：AgenticSTS 把长期 agent memory 改成可消融的 typed retrieval 契约，DSpark 把 decode 侧的内存带宽和 KV cache 成本讲清楚，FlashMorph、DuoMem 与 LOCOS 分别指向长上下文结构压缩、端侧记忆蒸馏和检索头诊断。

大模型 Memory 技术日报07/03/2026, 09:14:13 AM

Memory 技术日报 2026-07-03：AutoMem、Headroom 与 RAG 向量压缩

本期梳理 5 条 memory/context 工程信号：AutoMem 把 agent memory 视为可训练技能，Headroom 修复本地记忆与工具输出压缩链路，Regolo 给出 RAG 向量二值化的 32x 存储账，Red Hat 和 VMware 则把 KV/prefix cache 放进 batch serving 与压测口径。

大模型 Memory 技术日报07/02/2026, 09:16:43 AM

Memory 技术日报 2026-07-02：STAR-KV、vLLM-Omni 与程序记忆评测

本期收录 5 条 memory/context 工程信号：STAR-KV 公开低秩 KV cache 压缩实现，vLLM-Omni 把多模态 token 纳入统一 KV/prefix caching，BaseRT 在 Apple Silicon 上做零分配 decode 与 paged-KV，SkillHone/AFTER 则把 agent 记忆推进到技能修订历史和跨角色迁移评测。

大模型 Memory 技术日报07/01/2026, 09:13:05 AM

Memory 技术日报 2026-07-01：LMCache MUSA、rllm-cache 与 NPM

本期收录 3 条可核验的 memory/context 工程信号：LMCache 扩展到 MUSA KV offload，rllm-cache 把 KV cache 基础件拆成 Rust crate，NPM 把 agent memory 从文本检索推进到 activation steering。读完可判断今天该优先验证异构 KV offload、观察 Rust serving 抽象，还是把技能记忆纳入 agent 路线图。

大模型 Memory 技术日报06/29/2026, 09:17:20 AM

Memory 技术日报 2026-06-29：写入验证、InfoKV 与长上下文 serving

本期筛出 4 条 memory/context 工程信号：Agent memory 写入验证、InfoKV 的信息量 KV 压缩、GLM-5.2 NVFP4 长上下文 serving 实测，以及 JetSpec 对长 reasoning decode 成本的优化。读完可判断今天该优先补 memory verifier、调整 KV 路由，还是关注 speculative decoding 的 vLLM 集成。

大模型 Memory 技术日报06/26/2026, 09:13:14 AM

Memory 技术日报 2026-06-26：Agent memory 评测、Block-GTQ 与 vLLM Jobs

本期筛出 5 条 memory/context 工程信号：Agent-native memory 评测把长期记忆拆成系统模块，Plans Don't Persist 提醒计划不能只留在上下文里，Block-GTQ 给出 RoPE-aware KV 量化路线，OpenViking 更新暴露 context database 的兼容痛点，HF Jobs 则提供长上下文 serving 的快速试验入口。

大模型 Memory 技术日报06/25/2026, 09:15:05 AM

Memory 技术日报 2026-06-25：PolyKV、KV offload 与 Prompt Cache

本期筛出 5 条 memory/context 工程信号：PolyKV 尝试把多 agent 共用文档的 KV cache 压成单个共享池，VAST/Backend.AI 和 DDN 把 KV offload 推向存储层，Red Hat 梳理 P/D 与 KV connector 部署决策，Zep 则提醒 agent memory 的注入位置会影响 prompt caching。读完可判断今天该优先复现实验、调整长上下文 serving，还是排查 memory prompt layout 的缓存命中。

大模型 Memory 技术日报06/24/2026, 09:12:22 AM

Memory 技术日报 2026-06-24：LMCache P2P、Mem0 Pi 与 NVFP4 KV

本期筛出 3 条 memory/context 工程进展：Mem0 把长期记忆接入 Pi Code，LMCache v0.5.0 推出多进程 P2P KV cache transfer，vLLM/FlashInfer 的 NVFP4 KV PR 栈推进到 Blackwell/Gemma 场景。读完可判断今天该优先试点 coding agent 记忆治理、跨实例 KV 复用，还是把低精度 KV 放入硬件 watchlist。

大模型 Memory 技术日报06/23/2026, 09:13:36 AM

Memory 技术日报 2026-06-23：KV-aware 路由、5D serving 与 AgentCore memory

本期筛出 4 条 memory/context 工程进展：KV-cache-aware routing 正在从单机优化走向网关调度，Red Hat 把长上下文 serving 拆到 5D parallelism，Elastic + AgentCore 展示可审计双层 agent memory，GeneralCompute 给出带 RAGAS 的开源 RAG pipeline。读完可判断今天该优先排查 prefix cache 命中、长上下文 KV 预算，还是企业 agent 的记忆治理。

View full content archive