Ollama来自创作者

OpenAI 开放权重模型 gpt-oss 上线 Ollama,提供 20B 和 120B 两款

Ollama 与 OpenAI 合作上线开放权重模型 gpt-oss,提供 20B 和 120B 两种规格,面向推理、智能体任务和各类开发场景,采用 Apache 2.0 许可。

模型的混合专家权重被量化为每参数 4.25 位的 MXFP4 格式,使 20B 模型可在 16GB 内存的系统上运行,120B 模型可放进单张 80GB GPU。Ollama 原生支持 MXFP4 格式,并与 OpenAI 对照其参考实现做了基准测试,以确保质量一致。

要点

  • 支持函数调用、网页浏览、Python 工具调用和结构化输出。
  • 可查看完整思维链,推理强度分低中高三档。
  • MoE 权重占总参数量的 90% 以上。
  • NVIDIA 与 Ollama 合作在 RTX GPU 上加速 gpt-oss。

原文:OpenAI gpt-oss

Ollama is supporting the MXFP4 format natively without additional quantizations or conversions.

阅读原文

收录于 。摘自官方博客的简短节选,著作权归原发布者所有。

查看全部