AI 资讯

Cloudflare 相关资讯

查看全部

Cloudflare 披露 Workers AI 跨客户数据泄露事故,根因涉及 SGLang 缺陷

Cloudflare 称,8 月 27 日至 9 月 9 日间,Workers AI 上的 GLM-5.3 模型有 155 条回复混入了其他客户请求的数据,均出现在超过 681,280 token 的长提示中。原因是上下文窗口与 KV 缓存池容量不匹配,触发了开源推理引擎 SGLang 在预填充/解码分离模式下的缺陷。Cloudflare 表示未发现蓄意利用迹象。

为什么重要:推理引擎常在请求间复用 KV 缓存页,这次说明分离式部署中缓存页归属出错,会把一位用户的数据混进另一位的回复。Cloudflare 建议自托管 SGLang 分离部署的团队核对 KV 池与上下文长度,并升级到 v0.5.22 以上。

研究原发