llama.cpp版本更新

llama.cpp v0.3.0:支持 dots3-note 多模态模型,ggml 升至 0.22.0

llama.cpp 0.3.0 支持 dots3-note 多模态模型,并为其加入新的 DSA-ISWA KV 缓存类型;GLM-4.5-Air 支持 MTP。DeepSeek 4 修复了张量切分(-sm tensor)和多序列回滚问题。

ggml 升至 0.22.0,mtmd 加入 dots3-note 的视觉与音频支持和 WebP 解码。服务器加入 LLAMA_SERVER_SLOTS_N_DIFF 调试参数,Web 界面支持标签页式聊天导航。

要点

  • 支持 dots3-note 多模态模型。
  • 新增 DSA-ISWA KV 缓存类型。
  • GLM-4.5-Air 支持 MTP。
  • ggml 升至 0.22.0。
  • Web 界面支持标签页聊天。

阅读原文

收录于 。摘自 GitHub 版本发布的简短节选,著作权归原发布者所有。

查看全部