开发环境操作系统以及架构为Arm(aarch64)时模型转换的耗时较长
2022/07/20
59
问题信息
问题来源 | 产品大类 | 产品子类 | 关键字 |
---|---|---|---|
官方 | 模型推理 | 模型转换 | 模型转换、ATC、CPU |
问题现象描述
开发环境操作系统以及架构为Arm(aarch64),模型转换的耗时较长。
原因分析
架构内核未指定最优编号的CPU内核。
解决措施
- 以ATC安装用户登录开发环境,执行su root命令切换到root用户
- 确保开发环境已连接网络后,执行以下命令安装numactl工具。
yum -y install numactl
- 切换到ATC安装用户执行如下命令,通过numactl -C指定编号16到31的CPU核来处理模型转换操作。此处建议指定编号16到31的CPU核,处理性能更好,用户也可以根据实际情况修改。
numactl -C 16-31 --localalloc <args>
本页内容