Latitude版本更新
Latitude typescript-telemetry 4.2.0:可自行设置 LLM 调用成本
Latitude typescript-telemetry 4.2.0 支持自行设置 LLM 成本:capture 可为其中每个 LLM 调用 span 指定美元成本,pricing 可按 token 数计价,costResolver 可返回成本或回退。setLlmCost 可设置单个 span 的成本,优先级依次为 setLlmCost、capture、costResolver、pricing 和 Latitude 服务端计价。
SDK 写入成本时会覆盖插桩写入的成本,并标记 latitude.cost.source="user"。成本在导出时通过包装器应用,共享 provider 上的其他处理器看到的 span 不变。
要点
- 可自行设置 LLM 成本。
- 新增 setLlmCost 等接口。
- 成本在导出时应用。
收录于 。摘自 GitHub 版本发布的简短节选,著作权归原发布者所有。