Sushi 1.4.0 支持在 128GB Mac 上运行 DeepSeek V4.1 Flash 1017 的 1.75 bit 量化版

Sushi v1.4.0 新增 DeepSeek V4.1 Flash 1017 的 STQ 1.75bpw 量化包(含 Engram 表 332 GB),路由专家按 --ssd-budget-gb 从 SSD 流式读取,128 GB Mac 可运行,上下文最长 1M。M5 Max 上 4k 时代码 76.6、prose 49.3 tok/s,预填充 1,024 tok/s(预算 108 GB)。

为什么重要

Sushi v1.4.0 提供 DeepSeek V4.1 Flash 1017 的 1.75 bit 量化版,可在 128GB 内存的 Mac 上本地运行。

来源2

由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。