Init接口

接口功能

推理引擎Engine的初始化函数，用户在声明engine后，需调用Init函数对InferenceEngine初始化。

该函数需与Finalize()成对使用。

接口格式

Status Init(const SendResponseCallback &callback = nullptr, const std::string &configPath = "");

接口参数

使用样例

const std::string dataset = "token_input_gsm.csv";
IOManager manager(dataset); // IOManger 输入输出读写（请按需求完善）

int requestNum = 0;
volatile int completeNum = false;

// 创建engine实例
auto engineConfig = GetEngineConfig();
engineConfig.response_callback = [&manager, &completeNum](std::shared_ptr<InferenceResponse> &response) {
    InferenceResponse::Output *output;
    response->ImmutableOutput("OUTPUT_IDS", &output);
    manager.SetOutputData(response->GetRequestId().StringValue());

    if (response->IsEOS()) {
        completeNum++;
    }
};

InferenceEngine engine(engineConfig);
engine.Init(GetModelConfig(), GetLoaderConfig()); // 初始化engine

返回值

初始化状态。

• Status(Error::Code::OK)：操作成功。
• Status(Error::Code::ERROR)：操作失败。
• Status(Error::Code::INVALID_ARG)：非法参数。
• Status(Error::Code::NOT_FOUND)：无法找到指定操作。