Unsloth 发布 MiniMax-M3.1-Flash 的 UD3 量化版本,UD-IQ1_M 保留约 89.9% top-1%

Daniel Han@danielhanchen

译自英文

我们制作了 Unsloth UD3 MiniMax-M3.1-Flash 量化版本!我们在多个领域做了测试,确保量化版本在这些领域同样表现良好! MiniMax-M3.1-Flash 默认对 MoE 层使用 NVFP4,其余部分使用 BF16 / MXFP8。UD-IQ1_M 保留约 89.9% top-1%。可在 Unsloth Desktop 中使用! x.com/UnslothAI/stat…
Unsloth AI@UnslothAI

译自英文

MiniMax-M3.1-Flash 现在可以本地运行了! 我们让 2-bit GGUF 保留了 91.5% 的 top 1 准确率,同时体积缩小 45%。在 150GB 内存上即可运行。 MiniMax-M3.1-Flash 是同尺寸中最强的开放模型,也是整体最好的模型之一。 GGUF:huggingface.co/unsloth/MiniMa… 指南:unsloth.ai/docs/models/mi… x.com/MiniMax_AI/sta…
X

来源1

由 dalao.ai 撰写标题;引用的帖子以原文为准,著作权归原作者所有。