智算现场运维资料整理阶段 02

NCCL 多机通信排障

针对多机 all-reduce 卡顿、超时和 hang,建立从拓扑到链路再到软件栈的诊断流程。

最近动作定义性能偏低、通信超时和完全卡死的证据矩阵。

Goal

公开目标

形成可重复的 NCCL 基线测试和三类通信异常诊断入口。

Why

为什么要做

all-reduce 变慢、超时和完全卡死看起来相似,却可能分别落在拓扑、链路、网卡选择或软件版本。需要先把入口和证据矩阵分开。

Milestones

建设里程碑

  1. 01
    基线测试

    记录硬件、拓扑、规模、消息尺寸和带宽结果。

  2. 02
    日志速查

    整理初始化、网卡选择、传输层和超时关键字。

  3. 03
    故障案例

    使用虚构节点走通一个可重复的多机排障案例。

Acceptance

验收标准

  • 单机与跨机证据层分开记录。
  • 测试结果不脱离硬件、拓扑和规模给出统一通过值。
  • 案例覆盖复现条件、停止边界和恢复验证。
返回项目与建设路线