llama.cpp版本更新
llama.cpp v0.3.0:支持 dots3-note 多模态模型,ggml 升至 0.22.0
llama.cpp 0.3.0 支持 dots3-note 多模态模型,并为其加入新的 DSA-ISWA KV 缓存类型;GLM-4.5-Air 支持 MTP。DeepSeek 4 修复了张量切分(-sm tensor)和多序列回滚问题。
ggml 升至 0.22.0,mtmd 加入 dots3-note 的视觉与音频支持和 WebP 解码。服务器加入 LLAMA_SERVER_SLOTS_N_DIFF 调试参数,Web 界面支持标签页式聊天导航。
要点
- 支持 dots3-note 多模态模型。
- 新增 DSA-ISWA KV 缓存类型。
- GLM-4.5-Air 支持 MTP。
- ggml 升至 0.22.0。
- Web 界面支持标签页聊天。
收录于 。摘自 GitHub 版本发布的简短节选,著作权归原发布者所有。