背景 在 MoE 模型的训练过程中,EP rank 之间的 A2A 通信在端到端时间中占据了相当大比重,对训练效率影响很大,特别是对于 Fine-grained MoE model,EP size 会比较大,跨机通信基本无法避免。那么要如何减少 EP ...