IT之家8/3 15:2568精选

英特尔为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,推出多卡 GPU 部署方案

英特尔:为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,实现基于多卡 GPU 的部署方案

阅读原文

推荐理由:英特尔为 MiniMax H3 提供 Day 0 支持,并公开了多卡 GPU 部署方案(8TP+USP+混合并行),这对需要低成本部署视频生成模型的 AI 创作者和产品孵化者来说,是可直接抄的工程参考,尤其适合关注显存优化和推理加速的团队。

英特尔宣布为开源多模态视频模型 MiniMax H3 提供 Day 0 首发支持,锐炫 Pro B70 GPU 第一时间完成适配。英特尔团队实现了一种基于多卡 GPU 的部署方案,采用 Encoder 8 卡张量并行(8TP)、DiT 8 卡 USP(Ulysses Sequence Parallel,结合 Layer-wise Offloading)以及 VAE 部署于 B70 GPU 的整体架构,实现视频生成全流程 GPU 加速。该方案突破单卡显存限制,降低模型常驻显存需求,支持更大规模 DiT 模型部署。团队还开发了 2TP×4USP 混合并行方案,减少通信开销,提升推理性能。此外,结合 llm-scaler-omni 项目的 XPU Kernel 优化,对矩阵乘法、注意力等关键算子持续优化,降低端到端推理时延。

关联讨论 · 5

来源与依据

时间证据
8/3 15:25
收录于 8/3 16:40
交叉线索
5 个独立来源
内容可信度:中高