数据类型转换,把data中的数据转换为目标dtype类型。支持的转换范围如下表所示。
源数据类型 |
目的数据类型 |
取整模式 |
---|---|---|
float32 |
float16 |
不涉及 |
float32 |
int8 |
舍弃小数,直接取整数 |
float32 |
uint8 |
舍弃小数,直接取整数 |
float16 |
float32 |
不涉及 |
float16 |
int8 |
舍弃小数,直接取整数 |
float16 |
uint8 |
舍弃小数,直接取整数 |
float16 |
int32 |
舍弃小数,直接取整数 |
int8 |
float16 |
不涉及 |
int8 |
uint8 |
舍弃小数,直接取整数 |
int32 |
float16 |
不涉及 |
int32 |
int8 |
舍弃小数,直接取整数 |
int32 |
uint8 |
舍弃小数,直接取整数 |
cast_to(data, dtype, f1628IntegerFlag=True)
res_tensor:转换后的数据,tvm.tensor类型
无。
Atlas 200/300/500 推理产品
Atlas 训练系列产品
from tbe import tvm from tbe import dsl shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = dsl.cast_to(data,"float32")