性能验证
调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。
支持“一次AOE调优+多次ATC模型转换”的场景,使用AOE工具调优模型后,若由于其它业务需求需要重新转换模型,可通过环境变量TUNE_BANK_PATH指定AOE调优知识库的路径,再使用ATC工具重新转换模型,这样就可以基于知识库中的调优策略编译模型、转换出调优后的模型。
父主题: 离线推理场景下调优(其他推理设备)
调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。
支持“一次AOE调优+多次ATC模型转换”的场景,使用AOE工具调优模型后,若由于其它业务需求需要重新转换模型,可通过环境变量TUNE_BANK_PATH指定AOE调优知识库的路径,再使用ATC工具重新转换模型,这样就可以基于知识库中的调优策略编译模型、转换出调优后的模型。