Ollama来自创作者
Ollama MLX 引擎更新：支持 NVFP4、提速最高 20%，并加入快照缓存
Ollama 更新了面向 Apple 芯片的 MLX 引擎，新增对 NVIDIA NVFP4 格式的支持，并加入新的快照系统来减少智能体任务中的重复计算。
在 Gemma 4 12B 上，NVFP4 相比常用的 q4_K_M 量化，质量损失大约减半，同时保持性能。通过把多个操作融合进单个 Metal 内核并改进 GPU 采样，引擎速度最高提升 20%。
要点
- 为数据中心优化的模型可导入 MLX 引擎在桌面运行。
- 快照在对话分叉、长提示中途和回复前保存状态。
- 子智能体、思考模型和重试场景都能复用已存状态。
- 滑动窗口注意力等结构的状态无法回退，需提前保存。
原文：Ollama's highest performance on Apple Silicon yet with MLX
Agent workloads are dominated by prompt processing. Every tool call is a new request, and every request resends the whole transcript: system prompt, tool definitions, and every file read so far.
收录于 。摘自官方博客的简短节选，著作权归原发布者所有。