Análise da dor
传统文档检索会返回完整文档内容,导致LLM上下文窗口被低效占用。DiffMem通过三级优化策略解决该问题:
核心优化方案
- 当前状态聚焦:默认只索引最新版Markdown文件,避免历史版本占用令牌
- 深度分级控制::
depth="basic"
:返回实体关系图谱的核心节点(约50-100 tokens)depth="wide"
:包含2度关联实体(约200-300 tokens)depth="deep"
:触发语义搜索返回完整内容
- BM25动态裁剪:对长文档自动提取相关性最高的3个段落
实现示例
# 获取精简上下文
context = memory.get_context("用户查询", depth="basic")
# 与LLM交互时组合提示词
prompt = f"基于以下上下文:{context}n回答:{query}"
Comparação de efeitos
测试显示相比传统方法:
– 基础查询节省68%令牌消耗
– 响应延迟降低40%
– 答案准确率提升22%(因噪声减少)
Essa resposta foi extraída do artigoDiffMem: um repositório de memória com controle de versão baseado em Git para inteligências de IAO