Unsloth 发布 MiniMax-M3.1-Flash 的 UD3 量化版本,UD-IQ1_M 保留约 89.9% top-1%
译自英文
我们制作了 Unsloth UD3 MiniMax-M3.1-Flash 量化版本!我们在多个领域做了测试,确保量化版本在这些领域同样表现良好!
MiniMax-M3.1-Flash 默认对 MoE 层使用 NVFP4,其余部分使用 BF16 / MXFP8。UD-IQ1_M 保留约 89.9% top-1%。可在 Unsloth Desktop 中使用! x.com/UnslothAI/stat…Unsloth AI@UnslothAI
译自英文
MiniMax-M3.1-Flash 现在可以本地运行了!
我们让 2-bit GGUF 保留了 91.5% 的 top 1 准确率,同时体积缩小 45%。在 150GB 内存上即可运行。
MiniMax-M3.1-Flash 是同尺寸中最强的开放模型,也是整体最好的模型之一。
GGUF:huggingface.co/unsloth/MiniMa…
指南:unsloth.ai/docs/models/mi… x.com/MiniMax_AI/sta…来源1
由 dalao.ai 撰写标题;引用的帖子以原文为准,著作权归原作者所有。