Hindsight来自创作者
Hindsight 1.0 发布,推出对象存储记忆引擎 Memlake
Hindsight 发布 1.0 版,并推出新的存储引擎 Memlake,把智能体记忆存放在用户自己掌控的对象存储桶中,面向十亿级记忆规模。Memlake 属于 Hindsight 企业版,Hindsight Cloud 大部分已在其上运行,开源版仍默认使用 Postgres。
Hindsight 称,在 Postgres 上记忆库变大后召回明显变慢:4 核主库在 3.3 万条记忆时每秒可处理 7.0 次查询,16.4 万条时降至 1.9 次。Memlake 让写入成本不随库的大小增长,完全缓存后 p99 召回延迟可降到 74 毫秒,且检索质量不受影响。
要点
- Hindsight 1.0 发布。
- Memlake 将记忆存入用户对象存储。
- 属企业版,开源版仍默认 Postgres。
- Postgres 在大库上召回明显变慢。
- 完全缓存后 p99 召回 74 毫秒。
原文:Introducing Hindsight Memlake: serving 100M Memories at <100ms p99 on object storage
Changing the storage engine didn't cost retrieval quality.
收录于 。摘自官方博客的简短节选,著作权归原发布者所有。