类说明
Model类,作为模型的抽象,持有模型推理的资源,并主要开放推理接口。支持使用ATC工具构建的动态Batch、动态分辨率和分档动态维度模型的推理。
支持的型号
Atlas 200/300/500 推理产品
Atlas 200I/500 A2 推理产品
Atlas 推理系列产品

- Model类涉及流的创建,会影响Stream最大支持创建个数。
- Model类涉及申请Device侧资源,与MxDeInit的作用域冲突,因此,其作用域不能大于或等于MxDeInit的作用域。
父主题: Model