下载
中文
注册

如何开启加速库的强制同步来定位报错

解决方案

export ATB_STREAM_SYNC_EVERY_KERNEL_ENABLE=1
export ATB_STREAM_SYNC_EVERY_RUNNER_ENABLE=1
export ATB_STREAM_SYNC_EVERY_OPERATION_ENABLE=1

开启环境变量后,运行模型推理,根据加速库日志中的第一个error进一步定位。