Ollama来自创作者
OpenAI 开放权重模型 gpt-oss 上线 Ollama,提供 20B 和 120B 两款
Ollama 与 OpenAI 合作上线开放权重模型 gpt-oss,提供 20B 和 120B 两种规格,面向推理、智能体任务和各类开发场景,采用 Apache 2.0 许可。
模型的混合专家权重被量化为每参数 4.25 位的 MXFP4 格式,使 20B 模型可在 16GB 内存的系统上运行,120B 模型可放进单张 80GB GPU。Ollama 原生支持 MXFP4 格式,并与 OpenAI 对照其参考实现做了基准测试,以确保质量一致。
要点
- 支持函数调用、网页浏览、Python 工具调用和结构化输出。
- 可查看完整思维链,推理强度分低中高三档。
- MoE 权重占总参数量的 90% 以上。
- NVIDIA 与 Ollama 合作在 RTX GPU 上加速 gpt-oss。
原文:OpenAI gpt-oss
Ollama is supporting the MXFP4 format natively without additional quantizations or conversions.
收录于 。摘自官方博客的简短节选,著作权归原发布者所有。