Ollama来自创作者
NVIDIA Nemotron 3.5 Lightning 登陆 Ollama:30B 总参数、3B 激活
NVIDIA 的开源模型 Nemotron 3.5 Lightning 已上线 Ollama,可完全在本地设备运行,主要面向需要持续运行、调用工具和处理多步任务的智能体。
模型采用混合专家架构,总参数 30B、每个 token 激活 3B,上下文最长 100 万 token。按文中数据,它的吞吐量是同等规模领先开源模型的 4 倍,任务完成时间快 30%。
要点
- 可在 RTX PC、DGX Spark 和 DGX Station 上本地运行。
- 支持 MTP、DFlash 或 DSpark 推测解码。
- 开放权重和开放数据集,可针对任务后训练。
- 可用 ollama launch 接入 Claude Code 等工具。
- Apple 芯片用户可用 MLX 版本。
原文:NVIDIA Nemotron 3.5 Lightning
Most of these steps don’t need a large model. At 3B active parameters per token, it’s built for local systems rather than the datacenter, and running locally means your data stays on your device.
收录于 。摘自官方博客的简短节选,著作权归原发布者所有。