Runway 公开 Characters 实时对话视频推理：约 570 亿参数模型在 4 张 H100 上跑到 24 帧

Runway 11 月 5 日发文介绍 Characters 背后的推理系统：约 570 亿参数的自回归视频扩散 Transformer，要在对话中按 24 帧/秒、每 166.7 毫秒吐出一段四帧画面。上线时每会话用 8 张 H100；在 4 张卡上，原始软件每步要 240.9 毫秒。把缓存维护挪到写入时等非融合优化后，每步降到 159.3 毫秒，可持续约 24.5 帧/秒，四卡即可实时。再把张量并行的 all-reduce 融进 FP8 矩阵乘，每步到 147.4 毫秒。七周遥测里，流式超过 1 秒的会话中 99.5% 平均帧率高于 23.5。

由 dalao.ai 撰写：标题、摘要和“为什么重要”是我们自己的文字；事实以原始报道为准，著作权归原发布者所有。