把单个数据或者tensor转换为指定的数据类型。
def cast(x, dtype)
参数 |
说明 |
---|---|
x |
数据tensor |
dtype |
目标数据类型,字符串类型。 |
转换为目标数据类型的数据。
源数据类型 |
目的数据类型 |
取整模式 |
---|---|---|
float32 |
float16 |
不涉及 |
float32 |
int8 |
舍弃小数,直接取整数 |
float32 |
uint8 |
舍弃小数,直接取整数 |
float16 |
float32 |
不涉及 |
float16 |
int8 |
舍弃小数,直接取整数 |
float16 |
uint8 |
舍弃小数,直接取整数 |
float16 |
int32 |
舍弃小数,直接取整数 |
int8 |
float16 |
不涉及 |
int8 |
uint8 |
舍弃小数,直接取整数 |
int32 |
float16 |
不涉及 |
int32 |
int8 |
舍弃小数,直接取整数 |
int32 |
uint8 |
舍弃小数,直接取整数 |
from tbe.common.utils import shape_util tensor_x = tvm.placeholder((32,64,64,3), name='tensor_x', dtype="float16") shape_util.cast(tensor_x, "float32")
把数据类型float16的tensor_x转换为数据类型float32。