Ollama版本更新

Ollama v0.40.5:支持 NVIDIA Nemotron 3.5 Super

Ollama v0.40.5 支持 NVIDIA Nemotron 3.5 Super,这是一个面向编程、推理、工具调用和文档理解的视觉语言模型,总参数 120B、每个 token 激活 12B,上下文最长 1M token。精简版 Nemotron 3.5 Bolt 为 74B 参数(激活 9B),面向 24 GB NVIDIA GPU,附带草稿模型用于推测解码。

要点

  • 支持 Nemotron 3.5 Super。
  • Nemotron 3.5 Bolt 面向 24 GB GPU。
  • 决策模型可在云端运行。

阅读原文

收录于 。摘自 GitHub 版本发布的简短节选,著作权归原发布者所有。

查看全部