下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

部署推理容器

前提准备

部署容器镜像前,用户需自行准备好所需容器镜像软件包,请参考制作推理镜像章节的步骤4。

操作步骤

通过FusionDirector部署容器请参考《FusionDirector 操作指南》中的“配置部署 > 容器应用部署”章节,本章节以不挂载卷目录的方式部署容器应用为例。

  1. 将容器sha256值添加到边缘环境配置文件镜像白名单中,请参考AtlasEdge支持的容器安全配置章节的--imageSha256WhiteList字段进行配置。
  2. 通过FusionDirector部署容器应用,请参考部署容器应用章节。因制作的镜像已包含业务推理程序,因此从FusionDirector部署时无需配置挂载卷及资源文件。示例配置如下:
    1. 部署带NPU资源的容器。

    2. 不挂载任何卷设备。

    3. 容器不配置任何特权选项,使用容器自身用户运行。

    4. 不使用能力集,不使用主机网络。

  3. (可选)输入业务容器数据。由于AtlasEdge部署容器不允许主机挂载卷,推荐如下方式输入数据:
    1. 边缘容器应用向端侧设备通过网络拉流的方式输入,如IPC摄像头拉流。
    2. 容器部署创建端口映射,容器中侦听端口接收的外部推送数据。
  4. (可选)输出业务容器数据。业务容器场景的输出数据,包括日志和推理结果,推荐如下方式输出数据:
    1. 容器日志和推理结果可通过网络往外部推送,如推送到日志服务器、推理结果中心应用系统等。
    2. 容器日志或者推理结果可通过标准输出打印日志。当前不支持导出,需要登录才可查看。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词