Graphify来自创作者

开源 Graphify 在长对话记忆基准上公布可复跑成绩

开源 Graphify 把代码图谱同时当作智能体记忆结构,并在 LOCOMO 与 LongMemEval 两个公开长对话基准上公布结果,同时放出可复跑 harness。LOCOMO 上 recall@10 为 0.497,明显高于对照记忆层;问答准确率 45.3%,介于两组对照之间。

在 LongMemEval-S 上问答准确率 76%,与 dense RAG 持平,且建索引不消耗 LLM 额度。文章还解释指标含义,并给出在自有仓库上估算 token 节省的方法。

要点

  • 公布 LOCOMO 与 LongMemEval 可复跑结果
  • LOCOMO recall@10 达到 0.497
  • LOCOMO 问答准确率 45.3%
  • LongMemEval-S 准确率 76% 持平 dense RAG
  • 建索引不消耗 LLM 额度

原文:Graph memory benchmark: LOCOMO and LongMemEval

Open-source Graphify publishes results on two public long-conversation benchmarks, along with the harness used to run them, so the numbers can be checked rather than taken on trust.

阅读原文

收录于 。摘自官方博客的简短节选,著作权归原发布者所有。

查看全部