文档
注册
评分
提单
论坛
小AI

如何使用调优后的自定义知识库

知识库是用户的资产,请用户妥善保管,建议归档到用户的存储介质。

调优后生成的自定义知识库,可以应用于推理和训练的性能提升。如下分场景介绍如何应用自定义知识库。

表1 如何使用调优后的自定义知识库

场景

如何使用

同一用户在同一套环境上进行AOE调优和推理/训练

  1. 设置TUNE_BANK_PATH为AOE调优后的自定义知识库存放路径。示例如下,其中“/home/HwHiAiUser/custom_tune_bank”请根据实际自定义知识库存放路径进行替换,TUNE_BANK_PATH默认值是“${HOME}/Ascend/latest/data/aoe/custom/graph/${soc_version}”或者“${HOME}/Ascend/latest/data/aoe/custom/op/${soc_version}”,详细介绍请参见配置环境变量
    export TUNE_BANK_PATH=/home/HwHiAiUser/custom_tune_bank
  2. 执行推理/训练。

同一用户在不同环境上进行AOE调优和推理/训练

假设在环境A上进行AOE调优并生成自定义知识库,需要在环境B上应用该知识库进行推理/训练。

  1. 将环境A上的知识库拷贝到环境B上,且将环境B存放知识库的路径赋予可读写权限。
    说明:

    如涉及到多个环境上进行了AOE调优,请执行多次拷贝,拷贝后请先合并知识库,再进行如下操作。

  2. 在环境B上设置TUNE_BANK_PATH为环境B存放知识库的路径。示例如下,其中“/home/HwHiAiUser/custom_tune_bank”请根据实际知识库存放路径进行替换,TUNE_BANK_PATH默认值是“${HOME}/Ascend/latest/data/aoe/custom/graph/${soc_version}”或者“${HOME}/Ascend/latest/data/aoe/custom/op/${soc_version}”,详细介绍请参见配置环境变量
    export TUNE_BANK_PATH=/home/HwHiAiUser/custom_tune_bank
  3. 执行推理/训练。
  • 不同用户在同一环境上进行调优和推理/训练
  • 不同用户在不同环境上进行调优和推理/训练

假设用户A和用户B在同一环境或者不同环境上进行AOE调优并生成自定义知识库,A需要用B的知识库进行推理/训练。

  1. 用户A将用户B的知识库拷贝到自己的自定义知识库存放路径,且将该路径赋予可读写权限。
    说明:

    如涉及到多个用户进行了AOE调优,请执行多次拷贝,拷贝后请先合并知识库,再进行如下操作。

  2. 用户A设置TUNE_BANK_PATH为知识库存放路径。示例如下,其中“/home/HwHiAiUser/custom_tune_bank”请根据实际知识库存放路径进行替换,TUNE_BANK_PATH默认值是“${HOME}/Ascend/latest/data/aoe/custom/graph/${soc_version}”或者“${HOME}/Ascend/latest/data/aoe/custom/op/${soc_version}”,详细介绍请参见配置环境变量
    export TUNE_BANK_PATH=/home/HwHiAiUser/custom_tune_bank
  3. 执行推理/训练。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词