vLLM 宣布在 TPU 上为 Kimi K3.1 Pro 提供首日支持

vLLM@vllm_project

译自英文

Kimi K3.1 Pro 现已登陆 TPU,并提供 day-0 支持 ⚡ 可用 vllm-torchtpu 在 TPU v7x 上运行。很高兴看到 @Google 与 @inferact 团队持续合作!🤝 了解更多 👇 llm-d.ai/blog/deploy-kimi-k3-1-…
X

来源1

由 dalao.ai 撰写标题;引用的帖子以原文为准,著作权归原作者所有。