Exo版本更新
Exo v1.0.69：默认开启连续批处理
EXO v1.0.69 默认开启连续批处理，单节点、多节点和 RDMA 实例都会自动合并推理请求，流水线并行的预填充也改为分块并重叠计算与通信，官方称在 2 个节点上最多快 1.98 倍。
新增对 Qwen3.5 和 M5 Pro/Max 芯片的支持，macmon 升级后 M5 Pro/Max 能上报内存和 GPU 使用数据、可以加入集群，API 还新增 POST /v1/cancel/{command_id} 用于取消进行中的文本生成。
要点
- 默认开启连续批处理。
- M5 Pro/Max 可以加入集群。
- 预填充最多快 1.98 倍（官方数据）。
原文：Exo · v1.0.69
EXO will automatically batch together inference requests, on single node and multi-node instances including RDMA instances.
收录于 。摘自 GitHub 版本发布的简短节选，著作权归原发布者所有。