随着AI的高速发展,特别是2023年GPT大模型的生产级可用,AI行业产生了巨大的经济价值。以GPT为代表的Transformer模型百花齐放,触发了对AI设备的巨大需求。
获取能够在NPU上运行的图编译后端npu_backend,可作为backend参数传入torch.compile。