下载
中文
注册
开发环境操作系统以及架构为Arm(aarch64)时模型转换的耗时较长

开发环境操作系统以及架构为Arm(aarch64)时模型转换的耗时较长

2022/07/20

59

暂无评分
我要评分

问题信息

问题来源产品大类产品子类关键字
官方模型推理模型转换模型转换、ATC、CPU

问题现象描述

开发环境操作系统以及架构为Arm(aarch64),模型转换的耗时较长。

原因分析

架构内核未指定最优编号的CPU内核。

解决措施

  1. 以ATC安装用户登录开发环境,执行su root命令切换到root用户
  2. 确保开发环境已连接网络后,执行以下命令安装numactl工具。

    yum -y install numactl 

  3. 切换到ATC安装用户执行如下命令,通过numactl -C指定编号16到31的CPU核来处理模型转换操作。此处建议指定编号16到31的CPU核,处理性能更好,用户也可以根据实际情况修改。

    numactl -C 16-31 --localalloc <args>

本页内容