Graphify来自创作者
开源 Graphify 在长对话记忆基准上公布可复跑成绩
开源 Graphify 把代码图谱同时当作智能体记忆结构,并在 LOCOMO 与 LongMemEval 两个公开长对话基准上公布结果,同时放出可复跑 harness。LOCOMO 上 recall@10 为 0.497,明显高于对照记忆层;问答准确率 45.3%,介于两组对照之间。
在 LongMemEval-S 上问答准确率 76%,与 dense RAG 持平,且建索引不消耗 LLM 额度。文章还解释指标含义,并给出在自有仓库上估算 token 节省的方法。
要点
- 公布 LOCOMO 与 LongMemEval 可复跑结果
- LOCOMO recall@10 达到 0.497
- LOCOMO 问答准确率 45.3%
- LongMemEval-S 准确率 76% 持平 dense RAG
- 建索引不消耗 LLM 额度
原文:Graph memory benchmark: LOCOMO and LongMemEval
Open-source Graphify publishes results on two public long-conversation benchmarks, along with the harness used to run them, so the numbers can be checked rather than taken on trust.
收录于 。摘自官方博客的简短节选,著作权归原发布者所有。