Ollama来自创作者

NVIDIA Nemotron 3.5 Lightning 登陆 Ollama:30B 总参数、3B 激活

NVIDIA 的开源模型 Nemotron 3.5 Lightning 已上线 Ollama,可完全在本地设备运行,主要面向需要持续运行、调用工具和处理多步任务的智能体。

模型采用混合专家架构,总参数 30B、每个 token 激活 3B,上下文最长 100 万 token。按文中数据,它的吞吐量是同等规模领先开源模型的 4 倍,任务完成时间快 30%。

要点

  • 可在 RTX PC、DGX Spark 和 DGX Station 上本地运行。
  • 支持 MTP、DFlash 或 DSpark 推测解码。
  • 开放权重和开放数据集,可针对任务后训练。
  • 可用 ollama launch 接入 Claude Code 等工具。
  • Apple 芯片用户可用 MLX 版本。

原文:NVIDIA Nemotron 3.5 Lightning

Most of these steps don’t need a large model. At 3B active parameters per token, it’s built for local systems rather than the datacenter, and running locally means your data stays on your device.

阅读原文

收录于 。摘自官方博客的简短节选,著作权归原发布者所有。

查看全部