文档
注册
评分
提单
论坛
小AI

HCCL_ASYNC_ERROR_HANDLING

功能描述

PyTorch训练或在线推理场景下,当使用HCCL作为通信后端时,可通过此环境变量控制是否开启异步错误处理。

  • 0:不开启异步错误处理。
  • 1:开启异步错误处理。

当PyTorch版本为1.11.0时,默认值为0;当PyTorch版本大于等于2.1.0时,默认值为1。

  • 当前版本,开启异步处理时,若出现ERROR CQE错误,进程会终止;其他错误信息,仅打屏提示,不会终止进程。
  • 当前版本该环境变量为试用环境变量,后续版本可能会存在变更。

配置示例

export HCCL_ASYNC_ERROR_HANDLING=1

使用约束

  • 此环境变量仅适用于PyTorch网络,且使用HCCL作为通信后端的场景。
  • 通过此环境变量开启异步错误处理时,为了更好地明确HCCL超时原因,建议init_process_group传参的timeout时间大于HCCL_CONNECT_TIMEOUTHCCL_EXEC_TIMEOUT环境变量配置的时间。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词