文档
注册
评分
提单
论坛
小AI

RunNpuOptions

ascendebug提供了RunNpuOptions类,用于存储NPU运行相关的可选配置项。

具体定义如下:

@dataclass
class RunNpuOptions():
    block_num: int = 0
    timeout: int = 600
    device_id: int = 0
    rel_err_thd: float = 0.005
    abs_err_thd: float = 0.005
    memory_check: str = ""

关于类成员的详细说明请参见表1

表1 RunNpuOptions成员说明

属性名

属性类型

默认值

属性说明

block_num

int

0

手动设置核函数运行时block个数。若设置了该配置,TilingInfo中的block_num不生效。

timeout

int

600

NPU运行的超时时间(单位秒)。

device_id

int

0

核函数运行的device id。

rel_err_thd

float

0.005

精度比对的相对误差阈值。

abs_err_thd

float

0.005

精度比对的绝对误差阈值。

memory_check

str

""

是否开启内存检测功能,与CompileNpuOptions.mermory_check配套使用。

  • ""或None:默认不开启
  • oom:开启内存异常检测,主要检测内存泄漏、非法释放、非法读写、越界访问。(该功能仅支持Atlas A2训练系列产品/Atlas 800I A2推理产品
  • oob:开启内存异常检测,主要检测越界访问。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词