下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

aclgrphBundleBuildModel

函数功能

将输入的一组Graph编译为适配昇腾AI处理器的离线模型,与aclgrphBuildModel接口的区别是,该接口适用于权重更新场景。

通过aclgrphBundleBuildModel接口生成离线模型缓存后,需要使用aclgrphBundleSaveModel接口落盘。

函数原型

graphStatus aclgrphBundleBuildModel(const std::vector<ge::GraphWithOptions> &graph_with_options, ModelBufferData &model)

约束说明

该接口内多个图如果涉及共享同名variable算子,接口内部会进行variable算子加速融合,建议通过aclgrphConvertToWeightRefreshableGraphs接口生成,否则可能会出现variable算子格式不一致的问题。

参数说明

参数名

输入/输出

描述

graph_with_options

输入

待编译的一组图和编译参数。该入参为一个结构体,包括如下参数:

struct GraphWithOptions {
  ge::Graph graph;
  std::map<AscendString, AscendString> build_options;
};

一组图包括:权重初始化图,权重更新图,推理图,其中只有推理图支持设置如下options参数。

可以通过传入options参数配置离线模型编译配置信息,当前支持的配置参数请参见aclgrphBuildModel支持的配置参数。配置举例:

1
2
3
4
5
void PrepareOptions(std::map<AscendString, AscendString>& options) {
    options.insert({
        {ge::ir_option::EXEC_DISABLE_REUSED_MEMORY, "1"} // close resue memory
        });
}

model

输出

编译生成的离线模型缓存。

struct ModelBufferData
{
  std::shared_ptr<uint8_t> data = nullptr;
  uint64_t length;
};

其中data指向生成的模型数据,length代表该模型的实际大小。

返回值

参数名

类型

描述

-

graphStatus

GRAPH_SUCCESS:成功。

其他值:失败。

调用示例

完整调用示例请参见调用示例

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词