资讯动态

PinchBench基准测评:LycheeMem如何帮Agent降低71%Token消耗并提升6%评分

发布时间:2026/10/16 2:57:52 来源:尧图企业网站定制
【免费下载链接】LycheeMemLightweight Long-Term Memory for LLM Agents.项目地址https://gitcode.com/gh_mirrors/ly/LycheeMem点击查看免费下载LycheeMem 是一款面向 LLM Agent 的轻量级长期记忆框架Lightweight Long-Term Memory for LLM Agents。在 PinchBench 基准测评中它作为 OpenClaw 插件接入后相比 OpenClaw 原生记忆实现了评分提升约 6%的惊人成绩同时将Token 消耗降低约 71%、整体成本降低约 55%——这是目前 Agent 记忆赛道中少有的又快又省的完整答卷。 为什么 Agent 的 Token 消耗如此关键先说清楚问题背景。让 Agent 拥有长期记忆的常见做法是把历史对话或全量记忆直接塞进上下文窗口。这带来两个痛点痛点表现Token 账单暴涨每轮对话都携带大量重复历史输入 Token 成倍增长回答质量下降上下文过长导致lost in the middle关键信息被噪声淹没PinchBench 正是用来检验这类记忆系统在真实 Agent 工作负载下表现的基准它让 Agent 完成多轮、跨会话的长时程任务同时统计任务评分、Token 消耗和实际成本。对开发者来说这三大指标直接决定了能不能上生产环境。 基准测评结果一组值得注意的数字LycheeMem 团队在 PinchBench 上评测了其OpenClaw 原生插件对照组是 OpenClaw 自带的原生记忆指标LycheeMem 插件对比结果任务评分——提升约 6%Token 消耗——降低约 71%实际成本——降低约 55%上图展示了该立知系列记忆框架的核心思路左侧通过 Compressor 将长上下文压缩为高密度 StaticMemoryKV 记忆右侧在推理时按需动态召回相关记忆片段而非整块塞入上下文。注意一个细节评分和成本同时变好。很多方案靠更激进的召回提分代价是 Token 飙升而 LycheeMem 反着来——用更精准的记忆筛选既让答案更准又让上下文更短。这正是它架构设计的直接收益。 核心机制四层记忆架构如何省 TokenLycheeMem 将记忆组织为四个协同的存储库详见 README_zh.md工作记忆会话级活跃上下文受双阈值 Token 预算管理——70% 预警阈值触发后台异步预压缩90% 阻塞阈值才暂停管道做压缩。旧轮次被刷入压缩摘要只保留摘要锚点 最近 N 轮原文这是 Token 节省的第一道闸门语义记忆以 7 类类型化MemoryRecord事实、偏好、事件、约束、流程、失败模式、工具能力为单元经 Record Fusion 在线融合成层级记忆树检索采用 Action-Aware 层级化策略——ANN 预过滤取 top-20 候选一次LLM 调用完成相关性判断成本不随记忆库增长而增长程序记忆技能库沉淀可复用的操作步骤通过 HyDE 假设性文档嵌入匹配模糊查询视觉记忆VLM 生成图片描述 双向量索引配合艾宾浩斯遗忘曲线自动衰减低价值记忆。层级化组织是该系列记忆系统的共性设计先按 Chunk 聚类成 Coarse/Fine 层级索引推理时只召回被选中的节点g_selected剪枝无关分支——按需取不整块拿是省 Token 的通用原理。第二道闸门在检索之后SynthesizerAgent 作为 LLM-as-Judge对每条召回片段做 0-1 相关度评分低于 0.6 阈值的直接丢弃存活者融合为一段紧凑的background_context。也就是说进入 Agent 主推理循环的永远是提纯后的记忆而不是原始检索瀑布。相关实现可参考管道与 Agent 编排src/agents/语义记忆检索路由、融合、反思召回src/memory/semantic/retrieval/记忆树与固化逻辑src/memory/semantic/engine.py 快速上手OpenClaw 插件两步安装如果你想在自己的 OpenClaw 环境中复现这套效果流程非常简单# 1. 安装插件 openclaw plugins install /path/to/LycheeMem/openclaw-plugin # 2. 重启网关 openclaw gateway restart完整配置说明见 openclaw-plugin/INSTALL_OPENCLAW_zh.md。插件的日常协作模式也很克制详见 openclaw-plugin/SKILL.md自动对话镜像——通过 hook 自动追加用户/助手轮次模型无需手动调用append_turn默认精简响应——lychee_memory_smart_search只返回提纯后的background_context而非冗长的原始检索结果边界自动固化——/new、/reset、/stop自动触发后台consolidate把对话提炼为结构化记忆。 插件设计原则是与宿主记忆互补而非竞争同会话短程上下文交给 OpenClaw 内置记忆跨会话长期背景上次这个项目怎么做的才交给 LycheeMem避免重复召回浪费 Token。如果你的 Agent 运行在 Claude Code、Hermes 或其他环境中项目同样提供了对应集成claude-plugin/lycheemem/INSTALL_CLAUDE_zh.md 与 hermes-plugin/lycheemem/INSTALL_HERMES_zh.md也可以直接pip install lycheemem后用lycheemem-cli启动独立服务通过 MCP 端点http://localhost:8000/mcp接入任意支持远程 HTTP 的 MCP 客户端。想快速体验完整管道可以运行官方示例examples/api_pipeline_demo.py或用--multi-turn参数查看多轮对话 统一固化的效果。 总结省 Token 不是靠少记而是靠精准取回到 PinchBench 的三个数字6% 评分、-71% Token、-55% 成本。这套结果的背后不是压缩记忆容量而是三层设计入口省——双阈值 Token 预算 后台异步压缩历史内容以摘要锚点形式驻留检索省——层级记忆树 单次 LLM 相关性判断调用成本与记忆规模解耦出口省——LLM-as-Judge 评分过滤只让高分证据进入推理上下文。对正在为 Agent 记忆烧钱的团队来说LycheeMem 证明了长期记忆可以既准确又便宜——这或许就是Lightweight这个名字最好的注脚。赞分享【免费下载链接】LycheeMemLightweight Long-Term Memory for LLM Agents.项目地址https://gitcode.com/gh_mirrors/ly/LycheeMem点击查看免费下载相关推荐MEX 检索基准评测方法论盲评对比 Greptoken 消耗直降 54% 的背后MEX 检索基准评测方法论盲评对比 Greptoken 消耗直降 54% 的背后 MEX 是一款把团队记忆放进代码仓库的开源工具核心能力之一是用代码图CDocker MCP Gateway负载测试模拟高并发场景的实战方法Docker MCP Gateway负载测试模拟高并发场景的实战方法 你是否在生产环境中遇到过MCP Gateway在流量高峰期响应缓慢的问题本文将通过Do金融科技CLI7个实用技巧Netdata性能优化指南降低资源消耗提升监控效率7个实用技巧Netdata性能优化指南降低资源消耗提升监控效率 Netdata是一款功能强大的实时性能监控工具默认配置下能提供丰富的监控数据和可视化图表。可观测性指标监控告警异常检测创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑