← 返回文档中心
故障排查

GPU 实例 CUDA 驱动异常与 NVLink 通信延迟常见诊断步骤

针对多机多卡训练过程中节点无法连接或卡死问题的自查与解决指令集合。

一、CUDA 驱动异常快速诊断

  • 报 Driver/library version mismatch:驱动与内核模块版本不一致,重启实例通常可恢复;反复出现请收集系统日志提交工单
  • nvidia-smi 出现 ECC / Xid 错误:记录 Xid 编号、发生时间与 nvidia-smi 截景,一并提交
  • 报 CUDA driver version is insufficient:驱动低于 CUDA 运行时要求——更换低版本 CUDA 镜像,或由平台侧处理驱动

二、容器环境的驱动匹配

  • 容器内无需安装宿主驱动:宿主驱动满足下限即可,GPU 设备由容器运行时挂载
  • 优先选用与宿主驱动兼容的 PyTorch / TensorFlow 官方镜像 tag
  • 自定义镜像建议基于平台预置镜像构建,避免重复踩版本坑

三、NVLink 与多机通信延迟

  • 单机多卡:用 nvidia-smi 检查 NVLink 状态;训练侧可开 NCCL_DEBUG=INFO 观察通信建链
  • 多机场景:先做节点间连通与带宽实测(平台计算网为 RoCE-IB),再检查安全组是否放行通信端口
  • AllReduce 长时间无进展:多为节点间网络问题而非 GPU 故障,先排查网络再怀疑硬件
  • 自查收集:报错全文、nvidia-smi 输出、驱动与 CUDA 版本、可复现步骤——按 P0–P3 优先级提交工单,紧急故障走值班热线
需要进一步帮助?

把节点标识、报错截图与复现步骤发给我们,技术团队会更快定位。