Hindsight来自创作者

Hindsight 1.0 发布,推出对象存储记忆引擎 Memlake

Hindsight 发布 1.0 版,并推出新的存储引擎 Memlake,把智能体记忆存放在用户自己掌控的对象存储桶中,面向十亿级记忆规模。Memlake 属于 Hindsight 企业版,Hindsight Cloud 大部分已在其上运行,开源版仍默认使用 Postgres。

Hindsight 称,在 Postgres 上记忆库变大后召回明显变慢:4 核主库在 3.3 万条记忆时每秒可处理 7.0 次查询,16.4 万条时降至 1.9 次。Memlake 让写入成本不随库的大小增长,完全缓存后 p99 召回延迟可降到 74 毫秒,且检索质量不受影响。

要点

  • Hindsight 1.0 发布。
  • Memlake 将记忆存入用户对象存储。
  • 属企业版,开源版仍默认 Postgres。
  • Postgres 在大库上召回明显变慢。
  • 完全缓存后 p99 召回 74 毫秒。

原文:Introducing Hindsight Memlake: serving 100M Memories at <100ms p99 on object storage

Changing the storage engine didn't cost retrieval quality.

阅读原文

收录于 。摘自官方博客的简短节选,著作权归原发布者所有。

查看全部