--buffer_optimize
功能说明
数据缓存优化开关。
参数取值
参数值:
- l1_optimize:表示开启l1优化。当前版本该参数无效,等同于off_optimize。
- l2_optimize:表示开启l2优化。
- off_optimize:表示关闭数据缓存优化。
参数默认值:l2_optimize
推荐配置及收益
建议打开数据缓存优化功能:开启数据缓存优化可提高计算效率、提升性能,但由于部分算子在实现上可能存在未考虑的场景,导致影响精度,因此在出现精度问题时可以尝试关闭数据缓存优化。如果关闭数据缓存优化功能后,精度达标,则需要识别出问题算子,反馈给华为工程师进一步分析、解决算子问题,解决算子问题后,建议仍旧保持开启数据缓存优化功能。
示例
--buffer_optimize=l2_optimize
支持的芯片型号
Atlas 200/500 A2推理产品
依赖约束
无。
父主题: 模型调优选项