生成模型
- 创建BuilderConfig配置模型生成选项。
通过配置BuilderConfig中的模型选项,可以配置模型编译的调优功能、动态功能等。目前的配置方式如下:
BuilderConfig config; config.SetFlag(BuilderFlag::FP16); // 设置fp16模式
BuilderConfig提供了多种配置选项,可以参照class BuilderConfig。
- 用Builder生成模型。
ModelData data = builder->BuildModel(network, config);
ModelData用来存储Builder生成的模型,模型数据储存在Host侧,可以直接保存到内存中。
- (可选)模型保存为离线文件。
std::string omModelName = "./Test.om" std::ofstream fout(omModelName, std::ios::binary); fout.write((char*)data.data.get(), data.size); fout.close()
- 销毁资源。
delete network; delete builder; AscendIE::Finalize(); // 调用全局资源销毁函数
父主题: C++编程模型