文档
注册
评分
提单
论坛
小AI

ExperimentalConfig构造函数

功能说明

ExperimentalConfig类的构造函数,调试功能扩展参数,后续版本可能会存在变动,不支持应用于商用产品中。

函数原型

def __init__(self,
accelerate_train_mode=="fast|step|0.9",
……
)

参数说明

参数名

输入/输出

描述

accelerate_train_mode

输入

针对超过1小时以上的训练场景,开发者可以通过此配置触发训练加速,提升训练性能。

软件内部会根据开发者配置的加速类型、加速触发模式以及低精度训练流程占比,对相应比例的训练流程降精度编译运行,剩余的训练流程仍按照原始精度编译运行。

该配置项取值类型为字符串,由“|”符号分割为三个字段,例如:fast|step|0.9。
  • 第一个字段代表加速类型,支持“fast”与“fast1”两种取值。
    • “fast”表示降精度时,按照float16的数据类型编译执行。
    • “fast1”表示降精度时,按照bf16的数据类型编译执行。
  • 第二个字段支持“step”和“loss”两种取值,分别表示根据step值或者loss值来分割整个训练流程为低精度训练和高精度训练。
  • 第三个字段代表低精度训练流程在总step或总loss中的占比。
    • 当第二个字段取值为“step”时,此字段的合法取值范围为“0.2 ~ 0.9”,默认值为“0.9”。
    • 当第二个字段的取值为“loss”时,此字段的合法取值范围为“1.01 ~ 1.5”,默认值为“1.05”。
配置示例:
  • 按照step触发加速
    accelerate_train_mode="fast|step|0.9"
  • 按照loss触发加速
    accelerate_train_mode="fast|loss|1.05"
需要注意:
  1. 若需要通过此配置项触发训练加速,需要确保网络脚本能够正常收敛。
  2. 针对网络脚本训练耗时较短的场景,若开启此配置项,端到端性能耗时不一定能够产生正向收益。
  3. 此配置项的功能与网络脚本中配置的精度模式有关:
    • 当通过“precision_mode”参数配置精度模式时,仅支持取值为"allow_fp32_to_fp16", “must_keep_origin_dtype”或者“”的场景下开启此配置。
    • 当通过“precision_mode_v2”参数配置精度模式时,仅支持取值为“origin”或者“”的场景下开启此配置。
  4. 此配置项功能与小循环次数有关,开启小循环的场景下可能不能准确按照指定的步数或者loss值分割整个训练流程,最终可能对loss和精度产生影响。
  5. 开启此配置项时,开发者需要对网络脚本适配修改,通过TellMeStepOrLossHook构造函数通知底层软件当前执行的步数和总的步数,或者当前执行的loss和最终的目标loss。
    示例如下
    from npu_bridge.npu_init import *
    from npu_bridge.estimator.npu.npu_config import ExperimentalConfig
    from npu_bridge.estimator.npu.npu_hook import TellMeStepOrLossHook
    # 使能fast加速模式,按照总step的0.9比例分割训练流程,即0.9占比的step数进行低精度训练,剩余step数进行高精度训练
    experimental_config = npu_config.ExperimentalConfig(accelerate_train_mode="fast|step|0.9")
    config = NPURunConfig(experimental_config=experimental_config)
    est = NPUEstimator(
    model_fn=model_fn,
    config=config,
    params=params)
    hooks = []
    max_steps = 10000
    # step分割方式,告知底层当前执行的步数和总步数,值“global_step:0”仅为示例,请配置为当前步数的实际Tensor名称
    my_hook = TellMeStepOrLossHook(step='global_step:0', total_step=max_steps )
    # loss分割方式,告知底层当前执行的loss和目标loss,值“loss:0”仅为示例,请配置为当前loss的实际Tensor名称
    # my_hook = TellMeStepOrLossHook(loss='loss:0', final_loss=7.1)
    hooks.append(my_hook)
    # 开启训练
    est.train(
    input_fn=imagenet_train.input_fn,
    max_steps=max_steps
    hooks=hooks)

返回值

返回ExperimentalConfig类对象,作为NPURunConfig的参数传入。

约束说明

无。

调用示例

1
2
3
4
5
6
from npu_bridge.npu_init import *
from npu_bridge.estimator.npu.npu_config import ExperimentalConfig
...
experimental_config=ExperimentalConfig(accelerate_train_mode="fast|step|0.9")
session_config=tf.ConfigProto(allow_soft_placement=True)
config = NPURunConfig(experimental_config=experimental_config, session_config=session_config)
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词