enum mindietorch.PrecisionPolicy
说明
提供图编译精度选择策略,支持FP32、FP16以及混合精度PREF_FP32、PREF_FP16。不同的精度策略最终会影响模型的性能,理论上FP32精度策略下,模型性能最慢,FP16精度策略下,模型性能最优。
成员
成员名称 |
描述 |
---|---|
mindietorch.PrecisionPolicy.PREF_FP32 |
模型编译时,内部数据类型为float16和float32混合,优先使用float32。 |
mindietorch.PrecisionPolicy.FP16 |
模型编译时,内部数据类型强制转换为float16。 |
mindietorch.PrecisionPolicy.FP32 |
模型编译时,内部数据类型强制转换为float32。 |
mindietorch.PrecisionPolicy.PREF_FP16 |
模型编译时,内部数据类型为float16和float32混合,优先使用float16。 |
父主题: 数据结构