下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

beta)class at_npu::native::OpCommand

定义文件

torch_npu\csrc\framework\OpCommand.h

功能描述

OpCommand是一个封装下层算子调用的类,实现了npu设备下层算子调用的相关功能。

成员函数

  • at_npu::native::OpCommand::OpCommand()

    OpCommand 构造函数,创建一个OpCommand。

  • at_npu::native::OpCommand::~OpCommand()

    OpCommand 析构函数。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Name(const string& name)

    OpCommand 待执行算子名称,返回值类型OpCommand。

    name:string类型,待执行的算子名称。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::SetCustomHandler(PROC_FUNC func)

    OpCommand 设置自定义处理方法,返回值类型OpCommand。

    func:PROC_FUNC类型,待设置的自定义处理方法。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::DynamicInputReg(DynamicInputRegFunc func, DyNumAndIndex num_and_index)

    OpCommand 动态输入方法注册,返回值类型OpCommand。

    func:DynamicInputRegFunc类型,待注册的动态输入方法。

    num_and_index:DyNumAndIndex类型,待注册的id。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Expect(UnifiedResult unified_result)

    OpCommand 设置预期结果形式,返回值类型OpCommand。

    unified_result:UnifiedResult类型,包含预期结果的类型、形状和是否已定义。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Input()

    OpCommand 空输入,返回值类型OpCommand。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Input(const at::Tensor& input, const string& descName = "", const c10::optional& sensitive_format = c10::nullopt, const string& realData = "")

    OpCommand 输入Tensor,要求连续,返回值类型OpCommand。

    input:Tensor类型,输入tensor,要求是连续的。

    descName:string类型,名称描述。

    sensitive_format:aclFormat类型,optional,特定format要求。

    realData:string类型,实际数据类型。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::InputWithoutContiguous(const at::Tensor& input, const string& descName = "", const string& realData = "")

    OpCommand 输入Tensor,不要求连续,返回值类型OpCommand。

    input:Tensor类型,输入tensor。

    descName:string类型,名称描述。

    realData:string类型,实际数据类型。

  • template at_npu::native::OpCommand& at_npu::native::OpCommand::Input(const c10::ArrayRef& dimListRef, at::IntArrayRef realShape, at::ScalarType toType, CompileType compileType = CompileType::MEMORY_HOST_COMPILE_DEPENDENT, const string& realDtype = "", const string& descName = "")

    OpCommand 输入数组,通常输入在cpu端,会在实现中进行h2d,返回值类型OpCommand。

    dimListRef:ArrayRef类型,输入数组。

    realShape:IntArrayRef类型,输入形状。

    toType:ScalarType类型,目标类型。

    compileType:CompileType类型,编译类型。

    realDtype:string类型,实际dtype。

    descName:string类型,名称描述。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Input(const c10::IntArrayRef& dimListRef, at::ScalarType toType = at::kLong, CompileType compileType = CompileType::MEMORY_HOST_COMPILE_DEPENDENT, const string& realDtype = "", const string& descName = "")

    OpCommand 输入整型数组,通常输入在cpu端,会在实现中进行h2d,返回值类型OpCommand。

    dimListRef:IntArrayRef类型,输入整型数组。

    toType:ScalarType类型,目标类型。

    compileType:CompileType类型,编译类型。

    realDtype:string类型,实际dtype。

    descName:string类型,名称描述。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Input(const c10::ArrayRefdimListRef, at::IntArrayRef realShape, at::ScalarType toType = at::kDouble, CompileType compileType = CompileType::MEMORY_HOST_COMPILE_DEPENDENT, const string& realDtype = "")

    OpCommand 输入浮点型数组,通常输入在cpu端,会在实现中进行h2d,返回值类型OpCommand。

    dimListRef:ArrayRef类型,输入浮点型数组。

    realShape:IntArrayRef类型,输入形状。

    toType:ScalarType类型,目标类型。

    compileType:CompileType类型,编译类型。

    realDtype:string类型,实际dtype。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Input(const c10::Scalar& input, const at::ScalarType type, CompileType compileType = CompileType::MEMORY_HOST_COMPILE_INDEPENDENT);

    OpCommand 输入标量,会在实现中进行h2d,返回值类型OpCommand。

    input:Scalar类型引用,输入标量。

    type:ScalarType类型,目标类型。

    compileType:CompileType类型,编译类型。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Inputs(const at::TensorList& inputs)

    OpCommand 输入tensor list,返回值类型OpCommand。

    inputs:TensorList类型引用,输入的tensor list。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::InputScalarToNPUTensor(const c10::Scalar& input, const at::ScalarType type)

    OpCommand 输入标量,返回值类型OpCommand。

    input:Scalar类型引用,输入标量。

    type:ScalarType类型,目标类型。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Output(at::Tensor& output, const string& descName = "", const c10::optional& sensitive_format = c10::nullopt, const string& realType = "")

    OpCommand 输出tensor,返回值类型OpCommand。

    output:Tensor类型引用,输出tensor。

    descName:string类型,名称描述。

    sensitive_format:aclFormat类型,optional,特定format要求。

    realData:string类型,实际数据类型。

  • template at_npu::native::OpCommand& at_npu::native::OpCommand::Attr(const string& name, dataType value)

    OpCommand 设置属性,返回值类型OpCommand。

    name:string类型常量引用,属性名称。

    value:dataType类型,属性值。

  • template at_npu::native::OpCommand& at_npu::native::OpCommand::Attr(const string& name, dataType value, bool cond)

    OpCommand 根据条件设置属性,返回值类型OpCommand。

    name:string类型常量引用,属性名称。

    value:dataType类型,属性值。

    cond:bool类型,用于判定的条件,若为false则不设置。

  • void at_npu::native::OpCommand::Run()

    OpCommand 算子执行。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Sync(c10::SmallVector<int64_t, N>& sync_index)

    OpCommand 设置同步index,返回值类型OpCommand。

    sync_index:SmallVector<int64_t, N>类型引用,需要同步的index。

  • at_npu::native::OpCommand& at_npu::native::OpCommand::Sync()

    OpCommand 同步,等待直到流完成。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词