dalao.ai

Hugging Face来自创作者

Hugging Face 上线 Mistral Large 4：万亿 MoE 多模态权重

Hugging Face 在 2026 年 10 月 29 日的博文中介绍 Mistral Large 4（又称 Le Chonk）：多模态、多语言的 MoE 模型，约 1T 总参数、约 49B 激活参数、100 万 token 上下文，官方提供 FP8 与 NVFP4 权重，另有 Unsloth 与 llama.cpp 团队制作的 GGUF，许可证为 Mistral Ecosystem Open-Weight License。

文章称其在网络安全、编程代理与多模态上较强，架构结合稀疏注意力与 Pixtral 视觉编码器；并说明 Transformers、vLLM、llama.cpp、TRL 微调、Inference Endpoints 与 Dell Enterprise Hub 等推理与部署路径。

要点

  • 约 1T 总参、49B 激活、百万 token 上下文
  • 官方 FP8 与 NVFP4，另有社区 GGUF
  • MoE 加稀疏注意力与 Pixtral 视觉
  • 许可证限制模型即服务转售场景
  • 支持 Transformers、vLLM 等推理栈

官方博客原文阅读约 12 分钟

原文：Welcome Le Chonk: Mistral Large 4 on Hugging Face

Mistral Large 4 (aka Le Chonk) is a multimodal, multilingual, Mixture-of-Experts (MoE) model from Mistral. It has about 1T total, 49B active parameter, and a context window of 1M tokens.

阅读原文

收录于 。摘自官方博客的简短节选，著作权归原发布者所有。