Model(option, deviceId)
函数功能
用户可选择特定加载方式，加载推理模型。
输入参数说明
参数名 |
类型 |
说明 |
|---|---|---|
option |
ModelLoadOptV2数据类型 |
用户可通过参数选择模型输入方式，具体请参见ModelLoadOptV2类。 |
deviceId |
int |
模型部署的芯片ID，默认为0号芯片。（-1表示模型部署在Host侧，为保留字段，请勿使用。） |
返回参数说明
返回模型对象。
父主题： Model类